Солнцезащитные очки Ray-Ban от Meta*, оснащенные искусственным интеллектом, оснащены скрытой камерой спереди, которая позволяет делать снимки не только по вашей просьбе, но и тогда, когда функции искусственного интеллекта запускают их по определенным ключевым словам, таким как “внешний вид”. Это означает, что “умные очки” собирают массу фотографий, как специально сделанных, так и нет. Но компания не берет на себя обязательства сохранять эти изображения в тайне.
Мы спросили Meta, планирует ли она обучать модели искусственного интеллекта на изображениях пользователей Ray-Ban Meta, как это делается на изображениях из общедоступных аккаунтов в социальных сетях. Компания отказалась сообщить.
“Мы не обсуждаем это публично”, – сказал Анудж Кумар, старший директор по носимым устройствам с искусственным интеллектом в Meta, в видеоинтервью TechCrunch в понедельник.
“Это не то, чем мы обычно делимся с другими пользователями”, – сказала представитель Meta Мими Хаггинс, которая также участвовала в видеозвонке. Когда TechCrunch попросил уточнить, тренируется ли Meta* на этих изображениях, Хаггинс ответила: “Мы не утверждаем, что это так”.
Одна из причин, по которой это вызывает особое беспокойство, заключается в новой функции искусственного интеллекта Ray-Ban Meta, которая позволит делать много таких пассивных фотографий. На прошлой неделе TechCrunch сообщил, что Meta планирует запустить новую функцию видеосъемки в режиме реального времени для Ray-Ban Meta. При активации по определенным ключевым словам умные очки передают серию изображений (по сути, видео в реальном времени) в мультимодальную модель искусственного интеллекта, позволяя ему естественным образом отвечать на вопросы о вашем окружении с низкой задержкой.
Это очень много изображений, и пользователь Ray-Ban Meta может не осознавать, что делает их. Допустим, вы попросили умные очки отсканировать содержимое вашего шкафа, чтобы помочь вам выбрать одежду. Очки позволяют эффективно делать десятки фотографий вашей комнаты и всего, что в ней находится, и загружать их в облачную модель с искусственным интеллектом.
Что происходит с этими фотографиями после этого? Meta не сообщает.
Ношение очков Ray-Ban Meta также означает, что вы носите камеру на лице. Как мы выяснили с Google Glass, это, мягко говоря, не совсем то, что нравится другим пользователям. Таким образом, можно подумать, что компании, которая это делает, ничего не стоит сказать: “Эй! Все ваши фотографии и видео с камер, которые вы снимаете на лицо, будут полностью конфиденциальными и сохранятся на вашей камере”.
Но это не то, что делает Meta.
Компания Meta уже объявила, что обучает своих моделей искусственного интеллекта публикациям в Instagram и Facebook каждого американца. Компания решила, что все это “общедоступные данные”, и нам, возможно, придется с этим смириться. Ит-компании и другие технологические компании приняли очень широкое определение того, что является общедоступным для обучения ИИ, а что нет.
Однако, несомненно, мир, на который вы смотрите через свои умные очки, не является “общедоступным”. Хотя мы не можем с уверенностью сказать, что Meta обучает модели искусственного интеллекта на кадрах с камеры Ray-Ban Meta, компания просто не стала бы утверждать наверняка, что это не так.
Другие поставщики моделей искусственного интеллекта придерживаются более четких правил обучения работе с пользовательскими данными. В Anthropic заявляют, что никогда не обучаются на основе данных, вводимых заказчиком в одну из их моделей искусственного интеллекта, или на основе результатов их работы. В OpenAI также заявляют, что никогда не обучаются на основе пользовательских данных, вводимых или выводимых через API.
Мы обратились к Meta за дополнительными разъяснениями и обновим историю, если они нам ответят.
Автор изображения: Даррелл Этерингтон
Источник: techcrunch.com
Meta* – это экстремистская организация (ст.13.15 КоАП РФ)
