Meta* не сообщает, обучает ли она ИИ на фотографиях в умных очках

Солнцезащитные очки Ray-Ban от Meta*, оснащенные искусственным интеллектом, оснащены скрытой камерой спереди, которая позволяет делать снимки не только по вашей просьбе, но и тогда, когда функции искусственного интеллекта запускают их по определенным ключевым словам, таким как “внешний вид”. Это означает, что «умные очки» собирают массу фотографий, как специально сделанных, так и нет. Но компания не берет на себя обязательства сохранять эти изображения в тайне.

Мы спросили Meta, планирует ли она обучать модели искусственного интеллекта на изображениях пользователей Ray-Ban Meta, как это делается на изображениях из общедоступных аккаунтов в социальных сетях. Компания отказалась сообщить.

“Мы не обсуждаем это публично”, — сказал Анудж Кумар, старший директор по носимым устройствам с искусственным интеллектом в Meta, в видеоинтервью TechCrunch в понедельник.

“Это не то, чем мы обычно делимся с другими пользователями”, — сказала представитель Meta Мими Хаггинс, которая также участвовала в видеозвонке. Когда TechCrunch попросил уточнить, тренируется ли Meta* на этих изображениях, Хаггинс ответила: “Мы не утверждаем, что это так”.

Одна из причин, по которой это вызывает особое беспокойство, заключается в новой функции искусственного интеллекта Ray-Ban Meta, которая позволит делать много таких пассивных фотографий. На прошлой неделе TechCrunch сообщил, что Meta планирует запустить новую функцию видеосъемки в режиме реального времени для Ray-Ban Meta. При активации по определенным ключевым словам умные очки передают серию изображений (по сути, видео в реальном времени) в мультимодальную модель искусственного интеллекта, позволяя ему естественным образом отвечать на вопросы о вашем окружении с низкой задержкой.

Это очень много изображений, и пользователь Ray-Ban Meta может не осознавать, что делает их. Допустим, вы попросили умные очки отсканировать содержимое вашего шкафа, чтобы помочь вам выбрать одежду. Очки позволяют эффективно делать десятки фотографий вашей комнаты и всего, что в ней находится, и загружать их в облачную модель с искусственным интеллектом.

Что происходит с этими фотографиями после этого? Meta не сообщает.

Ношение очков Ray-Ban Meta также означает, что вы носите камеру на лице. Как мы выяснили с Google Glass, это, мягко говоря, не совсем то, что нравится другим пользователям. Таким образом, можно подумать, что компании, которая это делает, ничего не стоит сказать: “Эй! Все ваши фотографии и видео с камер, которые вы снимаете на лицо, будут полностью конфиденциальными и сохранятся на вашей камере”.

Но это не то, что делает Meta.

Компания Meta уже объявила, что обучает своих моделей искусственного интеллекта публикациям в Instagram и Facebook каждого американца. Компания решила, что все это “общедоступные данные”, и нам, возможно, придется с этим смириться. Ит-компании и другие технологические компании приняли очень широкое определение того, что является общедоступным для обучения ИИ, а что нет.

Однако, несомненно, мир, на который вы смотрите через свои умные очки, не является “общедоступным”. Хотя мы не можем с уверенностью сказать, что Meta обучает модели искусственного интеллекта на кадрах с камеры Ray-Ban Meta, компания просто не стала бы утверждать наверняка, что это не так.

Другие поставщики моделей искусственного интеллекта придерживаются более четких правил обучения работе с пользовательскими данными. В Anthropic заявляют, что никогда не обучаются на основе данных, вводимых заказчиком в одну из их моделей искусственного интеллекта, или на основе результатов их работы. В OpenAI также заявляют, что никогда не обучаются на основе пользовательских данных, вводимых или выводимых через API.

Мы обратились к Meta за дополнительными разъяснениями и обновим историю, если они нам ответят.

Автор изображения: Даррелл Этерингтон

Источник: techcrunch.com

Meta* – это экстремистская организация (ст.13.15 КоАП РФ)

Total
1
Shares
Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Предыдущая новость
Правила, которые помогут или помешают: подход Cloudflare

Правила, которые помогут или помешают: подход Cloudflare

Следующая новость

Y Combinator подвергся критике после того, как поддержал ИИ-стартап, который признался, что по сути клонировал другой ИИ-стартап

Читайте также
Маленький, но могучий: новые модели ИИ - H2O.ai бросают вызов технологическим гигантам в анализе документов

Маленький, но могучий: новые модели ИИ — H2O.ai бросают вызов технологическим гигантам в анализе документов

H2O.ai, поставщик платформ искусственного интеллекта с открытым исходным кодом, сегодня анонсировал две новые модели языка машинного зрения, разработанные…
Читать

Y Combinator подвергся критике после того, как поддержал ИИ-стартап, который признался, что по сути клонировал другой ИИ-стартап

Стартап венчурного фонда Y Combinator под названием PearAI запустил ветку на платформе X и видеоролик на YouTube —…
Читать
Mistral выпускает новые модели искусственного интеллекта

Mistral выпускает новые модели искусственного интеллекта, оптимизированные для ноутбуков и телефонов

Французский стартап в области искусственного интеллекта Mistral выпустил свои первые модели генеративного искусственного интеллекта, предназначенные для работы на…
Читать