Google предложила маркировать белки, созданные ИИ
Команда DeepMind разработала систему водяных знаков для белковых последовательностей, чтобы отличать разработки доверенных исследователей и усилить контроль за биобезопасностью
Один основной источник · Как мы проверяем новости
Что произошло
В среду команда DeepMind в Google опубликовала исследовательскую работу о потенциальном решении для биобезопасности — водяных знаках на белковых последовательностях.
Система должна добавлять маркировку так, чтобы не ухудшать функцию белка. Это позволит идентифицировать новые белки, разработанные доверенными исследователями, а остальные подвергать более тщательной проверке.
Как это может работать
Разработка основана на SynthID — технологии Google для добавления незаметных водяных знаков к цифровым материалам, созданным ИИ. Она влияет на вероятность отдельных решений модели, а возникающее смещение системно распределяется по результату.
В случае изображений такой знак может сохраняться после обычного экспорта и изменения размера. Для белков задача сложнее: последовательности короткие, а даже небольшое изменение в некоторых участках может лишить белок активности.
Почему это важно
Инструменты для проектирования белков уже позволяют создавать ферменты, способные расщеплять пластик или блокировать белки яда. Однако те же инструменты могут применяться для создания токсинов или изменения поведения вирусных белков.
Программное обеспечение для поиска потенциально опасных последовательностей ДНК не распознаёт белки, созданные ИИ: они недостаточно изучены и охарактеризованы, чтобы определить их угрозу.
Ограничения задачи
Белки состоят из 20 аминокислот, причём одни из них могут быть критичны для структуры или каталитической активности, а другие имеют противоположные заряды. В одних участках допустимы ограниченные изменения последовательности, тогда как даже небольшое отклонение в других способно инактивировать белок.
В отличие от изображений, содержащих миллионы пикселей, белок из 500 аминокислот предоставляет значительно меньше материала для скрытия сигнала. Поэтому до проверки оставалось неясным, удастся ли встроить достаточно информации для водяного знака без потери активности белка.
Источники
Один основной источник. Как мы проверяем новости
Связанные материалы
LASST потребовала ограничить разработку OpenAI после взлома Hugging Face
Meta и OpenAI делают ставку на милых ИИ-агентов для будущих устройств
