Сегодня 01 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google начала навязывать ИИ-режим в поиске — некоторые развёрнутые ответы от ИИ теперь показываются автоматически 3 ч.
Календарь релизов — 31 августа – 6 сентября: The Blood of Dawnwalker, Onimusha и Serious Sam 4 ч.
Балканизация виртуализации: VMware теряет клиентов из-за стратегии Broadcom, но та не собирается ничего менять 4 ч.
Недавнее обновление для Windows 11 сломало курсор и обои рабочего стола 4 ч.
DLSS 5 заработала на видеокартах GeForce RTX 2000 и RTX 3000, но очень медленно 9 ч.
ЕС поставил ChatGPT в один ряд с крупнейшими онлайн-платформами — ответственность OpenAI возрастёт 9 ч.
ИИ-направление принесло Cloud.ru более половины выручки в I полугодии 2026 года 10 ч.
Instagram объявила войну ИИ-аккаунтам, выдающим себя за реальных людей 10 ч.
Sony подтвердила сентябрьскую презентацию State of Play — покажут Final Fantasy VII Revelation и игры от PlayStation Studios 10 ч.
Windows 11 начала обманывать, что антивирус Defender отключён — на самом деле он работает 11 ч.
Новая статья: 10 флагманских процессоров Intel за 10 лет 3 ч.
AOC выпустила 27-дюймовый игровой монитор Agon AGP277KXM с подсветкой Mini-LED и двумя режимами: 5K@180 Гц и 1440p@360 Гц 3 ч.
Apple потеряла ключевого руководителя накануне смены гендира: Фил Шиллер оставил пост главы App Store 4 ч.
Тим Кук эмоционально обратился к сотрудникам Apple в свой последний день на посту генерального директора 7 ч.
Meta внедряет роботов в ЦОД для замены людей, но пока процесс идёт очень медленно 8 ч.
CXMT запустила пробное производство памяти HBM3E 8 ч.
В недрах Марса обнаружилась массивная «тепловая аномалия» — возможно, это результат древнего космического ДТП 9 ч.
Никому ни слова: операторы ЦОД в США всё чаще заключают тайные соглашения в властями, прикрываясь NDA 10 ч.
Российским операторам разрешили строить 5G на частотах LTE — сети скоро появятся в городах-миллионниках 11 ч.
TSMC намерена в 50 раз повысить производительность ИИ-систем — помогут 3D-чипы и кремниевая фотоника 11 ч.