Рубрики
Информация и аналитика Публичное право

Новая система Meta* ошибочно отмечает реальные фото как ИИ, пропуская настоящий ИИ-контент

Источник изображения: www.theverge.com

Пользователи Instagram** сообщают, что Meta автоматически добавляет метку «AI Content» к изображениям, которые не были созданы или отредактированы с помощью генеративных ИИ-инструментов. При этом настоящие ИИ-изображения остаются без меток. Причины сбоя различаются: многие отмечают, что метка появляется после использования фоновых редакторов, например Canva Background Remover, или даже после незначительной ретуши. Некоторые случаи не имеют очевидной связи с ИИ.

Подобная проблема уже возникала в 2024 году, когда Meta сканировала IPTC и C2PA метаданные, но методы остаются неясными. Компания обещала скорректировать подход, но детали не раскрывает. Canva признала, что её вспомогательные ИИ-инструменты ошибочно помечались как генеративные, и заявила об исправлении, однако пользователи всё ещё сообщают о ложных метках.

В тестах, проведённых журналистом The Verge, метка появлялась только на изображениях, созданных или отредактированных через приложение Meta AI. Изображения, обработанные другими инструментами (Canva, Photoshop, Firefly, Google Nano Banana, Apple Intelligence), не получили меток, даже если содержали C2PA или SynthID. Также зафиксирован случай с компанией About Face, где фото, сделанное на iPhone и слегка отредактированное, было помечено как ИИ, хотя SynthID отсутствовал.

Meta не отвечает на запросы о разъяснении критериев. Неясно, какие сигналы ИИ сканирует компания. Пользователи теряют доверие к меткам, которые должны повышать прозрачность, но сейчас лишь усиливают путаницу.

* Meta Inc. признана в России экстремистской организацией.

** Деятельность компании Meta Inc. по распространению продукта Instagram признана в России экстремистской.

Источник