Сегодня 08 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Тестирование шутера Fragmentary Order от создателя Escape from Tarkov стартует в декабре — раскрыты системные требования альфа-версии 18 ч.
Новая статья: Cairn — госпожа горных дорог. Рецензия 18 ч.
Новая статья: Gamesblender № 801: песчаная TES VI: Sentinel, новый шутер Джона Ромеро и Xbox в крокодиле 19 ч.
У клавиатуры iPhone нашёлся список из 100 тыс. запретных слов — но набирать их всё равно можно 07-11 15:14
Просто деньги очень нужны: Anthropic не откажется от IPO на фоне биржевого обвала 07-11 15:06
Китайский ИИ почти догнал секретную модель OpenAI во взломе сетей — и оказался дешевле 07-11 13:59
Ноябрьские игровые релизы грозят опустошить офисы — сотрудники массово берут выходные 07-11 09:47
Новая статья: Stygian: Outer Gods — лавкрафтианский кошмар. Опять. Рецензия 07-11 00:07
Бывший босс PlayStation объяснил, почему спустя 11 лет Sony так и не выпустила ни ремейк, ни сиквел Bloodborne 06-11 22:07
IPO на $1,5 трлн под угрозой: потенциальных инвесторов Anthropic напугал обвал акций IT-компаний 06-11 21:32
NASA отправит на Луну ядерный луноход — он будет искать лёд и готовить площадку для лунной базы 9 мин.
Huawei начала выпускать датчики изображения: 50-Мп матрица HiSilicon обнаружилась в серийной камере 17 мин.
Старые, неэкологичные авиадвигатели всё более востребованы для электропитания ИИ ЦОД в США 19 ч.
Synology выпустила двухконтроллерную СХД PAS3600 на 12 накопителей SATA 07-11 16:04
Дорогая память не помогла: биржевой обвал спутал планы китайской YMTC по IPO 07-11 13:28
Умные очки Samsung и Warby Parker будут доступны для предзаказа с 12 ноября 07-11 13:22
Конкурент Starlink анонсировал собственную ракету — первый запуск намечен на 2028 год 07-11 10:33
Nvidia ищет следы контрабанды — будущих партнёров в Азии обяжут подключить мониторинг чипов 07-11 07:35
Новые смартфоны всё чаще комплектуют б/у памятью — перепаянная DRAM будет в 9 % гаджетов в следующем году 07-11 01:44
Tesla сообщила о планах по выпуску ИИ-ускорителей SI и Dojo 3 07-11 00:30