В Сан-Франциско потребовали от Apple и Google убрать AI-приложения для создания интимных дипфейков

Что произошло

Городской прокурор Сан-Франциско David Chiu направил Apple и Google письма с требованием удалить из магазинов 13 так называемых приложений для «раздевания» людей на фотографиях, сообщил Wired.

Такие AI-инструменты позволяют превращать обычные фотографии реальных людей в откровенные изображения. В источнике говорится, что они могут удалять одежду, менять черты человека, помещать его в сексуализированные позы и подставлять лица жертв на изображения чужих обнаженных тел.

Детали требований

В письме Chiu говорится, что магазины приложений нарушают законы California, запрещающие поддержку сервисов, создающих дипфейк-порнографию, передал Wired.

Wired изучил письма и подтвердил, что Google попросили удалить пять приложений, а Apple — восемь. Названия приложений в публикации не раскрывались, чтобы не направлять к ним пользователей.

По данным Wired, одно из приложений имело более миллиона загрузок и рекламировало функции для сексуализации изображений женщин или создания «бесплатных и нецензурированных» видео.

Почему это важно

Chiu заявил Wired, что его офис «абсолютно потрясен» распространенностью технологии, которая, по его словам, в основном затрагивает женщин и детей.

Он сказал, что такие изображения используются для травли, унижения и угроз женщинам и девочкам, а также вредят репутации, психическому здоровью и автономии жертв.

Chiu назвал создание интимных изображений без согласия незаконным, вредным и полностью неприемлемым.

Реакция Google

Представитель Google Dan Jackson сообщил Ars, что пять приложений, на которые указал Chiu, были приостановлены в Google Play за нарушение правил против вредоносного контента.

Jackson также заявил, что Google Play не допускает приложения с сексуальным контентом и предпринимает проактивные шаги для выявления и удаления вредоносных приложений. По его словам, при сообщениях о нарушениях компания проводит проверку и быстро принимает меры, включая приостановку сотен нарушающих правила приложений и ограничение связанных поисковых запросов вроде «nudify».