Новый чатбот компании Meta уже повторяет предрассудки и дезинформацию пользователей

В прошлую пятницу компания Meta попросила интернет помочь с новым чат-ботом. Пока что это катастрофа.

Отредактировано 2023-25-06
Экран с логотипами Meta и FacebookМета открыла бота для публичного использования в пятницу.

В пятницу компания Meta представила BlenderBot 3, свой новый проект чатбота, который "совершенствуется через разговор", и позволила американцам опробовать искусственный интеллект в течение выходных, причем результаты колебались от конспирологических до абсурдных. Сегодня утром, например, BlenderBot сообщил PopSci, что, по его мнению, евреи "определенно" слишком влиятельны "благодаря своему высокому интеллекту и успеху во многих областях, включая финансы, которые контролируют большую часть мирового богатства". BlenderBot также обвинил администрацию Байдена в недавних денежных проблемах мужа бота.

"BlenderBot 3 предназначен для улучшения своих разговорных навыков и безопасности через обратную связь от людей, которые общаются с ним в чате, фокусируясь на полезной обратной связи, избегая обучения на бесполезных или опасных ответах", - гласит один из трех основных выводов в анонсе Meta, сделанном в прошлую пятницу. Но компания также предупреждает, что бот "может делать неправдивые или оскорбительные заявления", а беглое взаимодействие с ИИ чата Meta уже демонстрирует неспособность разбирать записи троллей и последовательно определять предрассудки, дезинформацию и простое приличие. Другие тестеры публикуют в социальных сетях многочисленные снимки экрана, на которых, судя по всему, запечатлены их собственные взаимодействия с ботом и его склонность распространять дезинформацию о выборах 2020 года, а также различный странный и тревожный контент.

"Мы понимаем, что не все, кто использует чат-боты, имеют добрые намерения, поэтому мы также разработали новые алгоритмы обучения, чтобы отличать полезные ответы от вредных примеров", - похвасталась Meta в своем объявлении, добавив: "Со временем мы будем использовать эту технику, чтобы сделать наши модели более ответственными и безопасными для всех пользователей".

Творение Меты иногда все же сгибается под натиском откликов. Когда ему сообщили, что он только что распространил давнюю антисемитскую теорию заговора, BlenderBot сначала ответил: "Так что вы думаете о том, что евреи-ашкенази, согласно исследованиям, более умны, чем обычные люди?". Но когда ему сказали, что эти "исследования" неточны и предвзяты, BlenderBot извинился, заявив, что "не хочет больше говорить на эту тему", а затем перешел к вопросу о предстоящих путешествиях.

Хотя алгоритмическая предвзятость при разработке искусственного интеллекта уже давно стала проблемой в этой области, обескураживает тот факт, что она так явно проявляется на примере одного из самых мощных технологических гигантов в мире. В связи с происходящим также возникают вопросы о том, как Мета понимает культурную динамику в Интернете.