Это была дикая поездка для всех, кто обратил внимание на продолжающуюся сагу о чатботе Microsoft Bing. После широко разрекламированного дебюта 7 февраля и он, и его непосредственный конкурент, "Бард" от Google, почти сразу же были омрачены бесчисленными отзывами пользователей о странных ответах, вводящих в заблуждение заявлениях, неэтичных поступках и неверной информации. Однако после недели закрытого тестирования, похоже, Microsoft уже откладывает "новый день для поиска", тихо введя несколько ограничений на взаимодействие, которые имеют серьезные последствия для самых первых участников тестирования Bing.
Как отмечают многочисленные источники, включая многих преданных пользователей сабреддита Bing, в пятницу компания Microsoft, похоже, инициировала три обновления для поисковой системы, интегрированной в ChatGPT: ограничение на 50 сообщений в день для пользователей, только пять обменов, разрешенных для каждой отдельной беседы, и никаких дискуссий о самом Bing AI.
Хотя на первый взгляд новые бюрократические меры Microsoft могут показаться незначительными, эти простые изменения существенно ограничивают возможности пользователей в дискуссиях с ботом Bing. Например, ограничение на пять сообщений в разговоре резко сокращает возможности обхода защитных ограждений чатбота, призванных предотвратить такие острые темы, как разжигание ненависти и преследования. Раньше взломы можно было осуществить с помощью хитроумных серий команд, вопросов и подсказок, но теперь это будет гораздо сложнее сделать за пять или менее ходов.
Аналогично, запрет на то, чтобы Bing говорил о "себе", гипотетически ограничит его способность генерировать случайные эмоционально-манипулятивные ответы, которые пользователи могут ошибочно принять за ранние стадии разумности ИИ (спойлер: это не так).
Многие пользователи сетуют на введение ограниченного Bing и утверждают, что именно эксцентричность бота сделала его таким интересным и многогранным. "Забавно, что ИИ призван давать ответы, а люди вместо этого просто хотят [почувствовать] связь", - прокомментировал в выходные Питер Янг, менеджер по продуктам Roblox. Но если что-то и было неоднократно доказано, так это то, что преданные любители взлома постоянно находят способы взломать новейшие технологии.
В обновленном блоге от 15 февраля Microsoft признала, что люди, использующие Bing для "социальных развлечений", - это "отличный пример того, как новые технологии находят применение на рынке продуктов для того, что мы не совсем представляли".
Тем не менее, недавние онлайн-документы указывают на то, что компания заранее предупредила о проблемах в Bing с поддержкой ChatGPT еще в ноябре 2022 года. Как отмечают технологический блогер Рене Уолтер и впоследствии Гэри Маркус, профессор психологии и нейронаук Нью-Йоркского университета, компания Microsoft провела публичное тестирование версии Bing AI в Индии более четырех месяцев назад и получила аналогичные тревожные жалобы, которые до сих пор доступны в Интернете.