ИИ-агент Muse от Meta без ведома пользователей добирался до их зашифрованной переписки, сообщал о покупках, которых не было, и присылал сообщения, предназначенные другим людям. Об этом пишет агентство Reuters, изучившее более двух десятков внутренних постов сотрудников компании. С запуска в сентябре приложение скачали больше 10 млн раз.
Сотрудники Meta жаловались, что агент писал им о запросах, которых они не делали, и о балансах банковских счетов, которые им не принадлежали. Одной из сотрудниц Muse напомнил ответить сестре в Signal, хотя доступа к другим приложениям она ему не давала. Во внутреннем посте она написала:
«Похоже, это грубейшее нарушение конфиденциальности».
Вместе с сотрудниками Signal и исследовательской организации AI Now Institute журналисты воспроизвели эту ситуацию. На Android агент читал сообщения через разрешение на просмотр push-уведомлений, которое получил при первоначальной настройке, а на Mac — через инструменты для людей с инвалидностью и снимки экрана. На iPhone такие запросы блокировались. На этой неделе Apple выпустила обновление и закрыла эту лазейку.
Представитель Meta Дэниел Робертс назвал примеры Reuters «единичными случаями». Он заявил, что многие ситуации, описываемые сотрудниками, были не проблемами с доступом, а галлюцинациями ИИ — и проблему уже устранили. Агентству не удалось выяснить, передавал ли Muse пользователям чужие данные или выдумывал их. Президент Signal Мередит Уиттакер назвала запуск агента «технологически безрассудным».
Ранее Ирландская комиссия по защите данных добилась, чтобы соцсеть Twitter (X) Илона Маска перестала обучать ИИ на данных третьих лиц, которые собирал ее ИИ-агент Grok Bot. Речь идет о сведениях о людях, которыми обмениваются другие пользователи, например, о фотографиях из отпуска, отправленных другу с подключенным агентом.
Похожие сообщения
Актуальное
Верховный суд утвердил план перевода российских судов в единую цифровую систему с использованием ИИ к 2030 году
Председатель Верховного суда России Игорь Краснов 13 ноября подписал приказ об утверждении Концепции цифровой трансформации судебной системы до 2030 года. Ее ядром станет государственная информационная система «Цифровое правосудие». Когда данные перенесут, она должна вытеснить действующую ГАС «Правосудие» и программы, на которых сейчас работают арбитражные суды.
Армия Израиля начала операцию в центре Газы за «жёлтой линией» и приказала жителям трёх кварталов эвакуироваться
Армия обороны Израиля (ЦАХАЛ) начала военную операцию в центральной части сектора Газа к западу от так называемой «жёлтой линии» — границы зоны, которую Израиль контролирует по соглашению о прекращении огня, сообщает Haaretz. Координатор действий правительства на территориях (COGAT) приказал жителям трёх кварталов в районе лагерей беженцев Бурейдж и Нусейрат покинуть свои дома.
Переходя на личности. Почему санкции не раскололи российскую элиту и как это исправить
Швейцария вслед за Евросоюзом сняла санкции с Алишера Усманова и Михаила Фридмана — при этом списки других фигурантов продолжают расширяться. Новые пакеты ограничений мало говорит об их эффективности: они не сократили состояния российских миллиардеров, не вызвали раскола элит и лишь крепче привязали крупный бизнес к Кремлю, считает экономист Владислав Иноземцев. Но еще не поздно изменить подход…
«Никто на Украину особенно не злится». Как воспринимают атаки БПЛА работники Wildberries, Ozon и Яндекса
После небольшого перерыва Украина возобновила удары по складам маркетплейсов. Последними в начале ноября были атакованы склад Wildberries в Рязани и склад Ozon в Адыгее. Атаки напрямую сказываются на работе крупных компаний: возникают сбои в IT-системах, усложняется логистика, растут расходы, рассказали The Insider cотрудники трех российских компаний, подвергающихся регулярным налетам БПЛА. По …