После мошенничества с голосовым дипфейком основательница основала DetectifAI

Что произошло

Около двух лет назад дедушка Tarini Padmanabhuni получил звонок и поверил, что разговаривает со своим братом. Собеседник заявил, что брат похищен, и потребовал выкуп.

Дедушка заплатил, но позднее выяснилось, что его брат находился в другом месте и не знал о происходящем. Голос оказался созданной с помощью ИИ имитацией.

Как работает DetectifAI

После этого Padmanabhuni основала DetectifAI — компанию из Сан-Франциско, которая разрабатывает компактные модели ИИ с нуля, а не уменьшает крупные облачные модели для работы на телефоне.

Компания хочет, чтобы технология мгновенно определяла, был ли голос сгенерирован ИИ, во время звонков, в голосовых сообщениях и других аудиозаписях. Обработка должна проходить непосредственно на устройстве.

Основой продукта стал SDK — пакет кода, который другие компании могут встроить в свои продукты. DetectifAI сначала продаёт лицензии производителям смартфонов, а дополнительным источником выручки должно стать лицензирование технологии компаниям и фирмам, занимающимся предотвращением мошенничества.

Почему это важно

По данным FBI, американцы потеряли почти $900 млн из-за мошенничества с применением ИИ за последний год. Это на 24% больше показателя 2024 года, а люди в возрасте 60 лет и старше потеряли вдвое больше, чем люди от 50 до 59 лет.

В области обнаружения голосовых дипфейков уже работают Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance. Padmanabhuni считает, что существующие продукты работают через удалённые облачные серверы, тогда как DetectifAI стремится встроить обнаружение непосредственно в смартфоны.

Планы компании

Padmanabhuni сравнивает будущую роль DetectifAI с ролью AT&T при запуске оригинального iPhone. По её мнению, производитель смартфонов, который первым встроит DetectifAI, получит преимущество, а обнаружение дипфейков со временем может стать стандартной характеристикой устройства, подобно разрешению камеры.