В среду родительская компания Facebook и Instagram, Meta, объявила на виртуальном мероприятии о применении возможностей искусственного интеллекта для решения целого ряда задач, таких как универсальный перевод и новое поколение ассистентов ИИ, на своей будущей платформе metaverse и в существующих приложениях. Первый цифровой помощник, который может давать рекомендации и устанавливать напоминания, уже начал внедряться на Portal, устройстве Meta для видеочата.
Наряду с представлением новых технологических проектов, основанных на ИИ, Meta также предприняла целенаправленные усилия, чтобы проиллюстрировать, как ИИ работает за кулисами, с помощью нового пояснительного инструмента под названием "системные карты".
"ИИ обеспечивает работу таких внутренних служб, как персонализация, рекомендации и ранжирование", - говорится во вчерашнем сообщении в блоге компании Meta. "Но понимание того, как и почему работает ИИ, может быть сложным для обычных пользователей и других людей. Мы стремимся изменить это".
Модели искусственного интеллекта могут применяться для решения широкого круга задач. Например, модели классификации изображений Meta предназначены для предсказания содержания изображения, но они также могут обнаруживать и помечать вредоносный контент или работать с рекомендательной системой, которая показывает посты, которые могут быть интересны конкретному пользователю. Кроме того, различные модели могут взаимодействовать и работать вместе над задачами в любой конкретной системе.
Эти новые системные карты будут описывать, как система ИИ использует такую информацию, как история взаимодействия человека с приложением, предпочтения и настройки аккаунта, для построения модели, которая может определять порядок представления сообщений пользователю в процессе его путешествия по приложению. Это "призвано дать представление о базовой архитектуре системы ИИ и помочь лучше объяснить, как работает ИИ", - пояснили в Meta.
График, представленный на конференции Inside the Lab: Создание метавселенной с помощью ИИ", организованном компанией Meta. Пилотная карточка системы Meta попытается продемонстрировать, как Instagram ранжирует свою ленту. В анимационном слайд-шоу в своем блоге Meta рассказывает о различных этапах, через которые проходит модель искусственного интеллекта, чтобы упорядочить посты в ленте пользователя. Во-первых, все невидимые сообщения от аккаунтов, за которыми следит пользователь, проходят через систему фильтрации перед ранжированием, которая удаляет контент, нарушающий правила сообщества Instagram.
Затем модель собирает атрибуты сообщения и объединяет их с информацией о том, как часто вы взаимодействуете с аккаунтом, чтобы предсказать вероятность того, что вам понравится, вы сохраните, коснетесь, поделитесь или прокомментируете это сообщение. На основе этого каждому посту присваивается числовой балл вероятности. Сообщения с более высокими показателями появляются раньше, чем сообщения с более низкими показателями, а более свежие сообщения поднимаются в верхнюю часть временной шкалы. Этот процесс применяется к обычным фотопостам, видео, роликам, постам о покупках и хэштегам. Третья сторона, проверяющая факты, будет понижать посты, содержащие "дезинформацию".
Система также будет применять общие правила для продвижения в ленте большого количества разнообразных постов разных типов медиа, авторов и содержания. Эти правила, например, предписывают системе "показывать не более трех сообщений подряд от одного и того же аккаунта". На сайте инструмента "Карточка системы" представители общественности могут выполнить интерактивное упражнение с гипотетическим профилем пользователя, чтобы увидеть, как различные компоненты применяются на практике. Этот инструмент, по-видимому, основан на более длинном пояснительном посте, который руководитель Instagram Адам Моссери написал в июне прошлого года, пытаясь пролить свет на то, как работает алгоритм Instagram.
Новые инициативы Meta по повышению прозрачности алгоритмов, на основе которых работают их приложения, появились после нескольких месяцев пристального внимания со стороны регулирующих органов.
Законодатели представили ряд законодательных предложений с целью обязать интернет-платформы адекватно информировать пользователей о том, как их личные данные используются их сервисами. В ноябре прошлого года законодатели Палаты представителей представили Закон о прозрачности пузыря фильтров, который обязывает платформы предлагать версию своего сервиса, которая не отбирает контент на основе персональных данных, сообщает Axios. Двухпартийный законопроект Сената, представленный в начале февраля, призван стимулировать проведение дополнительных исследований о влиянии различных конструкций платформ. Другой законопроект, представленный Сенатом в этом месяце, заставит компании социальных сетей сообщать о своих алгоритмах агентствам по защите прав потребителей, таким как Федеральная торговая комиссия.
Флагманское приложение Meta, Facebook, недавно провело ребрендинг своей ленты, что, по мнению The Verge, может быть ответом на растущую критику по поводу вредного воздействия алгоритмически ранжированного контента.
Но даже Meta признает, что системные карты могут сделать лишь очень многое, когда дело доходит до объяснения функционирования систем ИИ широкой аудитории. "Одна системная карточка может быть неактуальной для каждого человека, который ее увидит, потому что мы продолжаем тестировать новый опыт для наших пользователей", - отметила Meta в блоге. Кроме того, компания утверждает, что "слишком много информации в некоторых из наших системных карт может дать злоумышленникам достаточно знаний о системе или модели для ее реверс-инжиниринга", что может поставить под угрозу безопасность ее продуктов и потенциально навредить пользователям.