Hinton, Fei-Fei Li и Andrew Ng выступили за открытость AI на фоне споров о безопасности

Что произошло

На конференции Ai4 в Лас-Вегасе Geoffrey Hinton, Fei-Fei Li и Andrew Ng выступили по вопросу открытости AI. Несмотря на разногласия по отдельным подходам, все трое поддержали идею сохранения AI открытым.

Обсуждение прошло на фоне того, что модели с открытыми весами стали спорной темой для индустрии: из-за свободного распространения и ограниченного контроля над использованием такие модели трудно сдерживать.

Позиция Andrew Ng

Для спикеров ключевой риск заключался в том, что несколько крупных AI-компаний могут получить контроль над темпом прогресса. В качестве аналогии в источнике приводится влияние Apple и Google на мобильные операционные системы: когда доступ к технологии контролируют немногие, инновации могут замедляться, а владельцы платформ способны влиять на то, что на них создается.

Andrew Ng заявил, что не хочет появления «привратников» в AI, поскольку это ограничивает доступ к технологии. Его подход — поддерживать множество поставщиков, чтобы модели и компании конкурировали между собой, а не позволять нескольким игрокам доминировать в отрасли.

Оговорки Geoffrey Hinton

Geoffrey Hinton провел различие между открытым программным обеспечением и моделями с открытыми весами. В первом случае доступен код для проверки и изменения, во втором — публично раскрываются параметры уже обученной AI-модели.

Hinton сказал, что выступал против открытых весов, потому что они позволяют взять дорогие в обучении крупные фундаментальные модели и с меньшими затратами дообучить их для вредоносных целей, включая кибератаки. При этом он признал, что такие модели уже стали постоянной частью AI и что спор фактически проигран.

По словам Hinton, развитие AI продолжится, и в целом он считает это позитивным: технология, как он отметил, может повысить продуктивность и улучшить образование и здравоохранение. Одновременно он подчеркнул, что обсуждение возможных негативных последствий AI не следует автоматически считать запугиванием.

Почему это важно

Дискуссия показывает напряжение между двумя целями индустрии: снизить риски неконтролируемого использования мощных моделей и не допустить концентрации доступа к AI у небольшого числа компаний. Участники обсуждения сходятся в поддержке открытости, но расходятся в оценке того, насколько безопасны модели с открытыми весами.