Meta отправляет видео, снятое умными очками, модераторам-людям, так что кто-то видит все, что они снимают.
В прошлом месяце шведские издания опубликовали разоблачительный репортаж, который заставил задуматься о последствиях использования умных очков с камерами для записи фото и видео без помощи рук.
Журналисты взяли интервью у сотрудников Meta в Кении, которые помогают обучать ИИ , используемый в умных очках.
По их словам, Meta просматривает все видео, записанные пользователями, которые соглашаются поделиться своими данными для обучения ИИ, в том числе очень личные кадры.
«Мы видим все — от жилых комнат до обнаженных тел. В базах данных Meta есть такой контент», — сказал журналистам один из сотрудников.
Без более подробного описания принципов работы этих систем неясно, можно ли использовать интеллектуальные функции этих очков, не делясь при этом всеми данными. (Хотелось бы верить, что отказ от передачи «дополнительных данных» для обучения ИИ позволит сохранить конфиденциальность ваших записей, но в отчете ясно сказано, что при использовании функций ИИ Meta часть данных будет передаваться.) На самом деле следует исходить из того, что все, что вы записываете с помощью умных очков, увидят другие люди. Это касается всего — от посещения туалета до просмотра данных вашего банковского счета.
Скорее всего, это вызовет серьезные вопросы о конфиденциальности. Осознание того, что данные, которыми вы делитесь с Meta, включают в себя необработанные видео, может повлиять на ваше решение об их использовании. Кроме того, возникает вопрос о том, допустимо ли записывать других людей, которые могут спокойно относиться к тому, что вы видите их на видео, но не знать, кто еще может за ними наблюдать. В обоих случаях важно знать, как работают эти очки, прежде чем покупать их.
Meta объяснила, что её система пытается анонимизировать видео, размывая лица людей на кадрах. При этом журналисты BBC также поговорили с подрядчиками Meta, которые рассказали, что меры по защите конфиденциальности иногда не срабатывают.
Несмотря на эти условия, Meta не фильтрует видео, которые явно носят приватный характер и, возможно, не должны использоваться для обучения искусственного интеллекта без специального явно выраженного согласия. Система не может отличить видео, на которых люди едут за рулем, занимаются сексом, готовят сэндвич или просматривают конфиденциальную банковскую информацию. Контрактники маркируют эту информацию, чтобы система научилась различать ее. Но пока что система требует участия человека.
Meta ссылается на свою политику конфиденциальности как на доказательство того, что она открыто заявляет о модерации контента людьми, но формулировки в самой политике непрозрачны. «Ваши данные, в том числе медиафайлы и аудиозаписи с вашим голосом, могут использоваться для улучшения продуктов Meta…» В документе нет четкого указания на то, что ваши видео будут просматриваться людьми.