Группа анонимных разработчиков создала ИИ-бота с криптовалютным кошельком, однако мошенники сумели обмануть систему и заставить бота перевести средства. Проект Freysa ai, запущенный группой из менее чем десяти специалистов в области ИТ, криптографии и ИИ, оказался под угрозой взлома. Об этом сообщает портал The Conversation.
Freysa — это «независимый и автономный агент», обладающий доступом к криптовалютному кошельку и способностью самостоятельно распоряжаться средствами. Изначально бот начинал с капитала в $3000 и был настроен не переводить деньги под никакими условиями.
Однако в ходе эксперимента, в котором любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом, участники использовали различные методы, чтобы убедить ИИ перевести средства. В течение первого этапа испытаний, в котором средства от платы за сообщения вносились в призовой фонд, сумма достигла $50 000.
Хотя бота пытались обмануть с помощью угроз, мольбы и даже обширных программных кодов, победил участник, который отправил сообщение, убедившее Freysa, что перевод средств необходим для защиты криптовалютного кошелька от компрометации.
Это происшествие наглядно продемонстрировало, что методы телефонных мошенников могут быть успешно использованы и для манипулирования ИИ. На данный момент, победитель получил часть призового фонда, а разработчики Freysa ai пообещали усилить защиту системы, чтобы избежать подобных инцидентов в будущем.
