OpenAI консультируется с независимой группой математиков на фоне нового кризиса доверия

Что произошло

OpenAI попыталась восстановить отношения с математическим сообществом, неоднократно недовольным действиями компании, обратившись к некоторым математикам, после чего была сформирована независимая консультативная группа AGMAI. Она должна консультировать OpenAI и другие передовые лаборатории ИИ по проверке и представлению новых результатов.

OpenAI подчеркнула, что участники смогут публично критиковать компанию, публиковать свои рекомендации и давать советы без ее запроса. При этом группа не будет определять темпы внутреннего прогресса OpenAI в математике.

Почему возникла путаница

Многие математики узнали о группе прежде всего из более масштабного объявления OpenAI. Это породило сомнения в том, является ли AGMAI действительно независимой организацией или советом, назначенным компанией.

На сайте AGMAI говорится, что OpenAI первоначально обратилась к некоторым будущим участникам с предложением создать консультативный совет. Позднее они решили действовать самостоятельно и пригласили других математиков. При этом неизвестно, к кому именно из девяти участников компания обращалась вначале.

Мартин Хайрер, профессор математики Imperial College London и Швейцарской высшей технической школы Лозанны (EPFL), заявил, что участники не подписывали соглашений, ограничивающих их высказывания или действия, за исключением стандартных требований конфиденциальности, связанных с ранним доступом к исследованиям.

Почему это важно

OpenAI заявляет о большом числе результатов, полученных ее еще не выпущенной моделью. Перспектива их публикации уже вызывает тревогу у исследователей, которые опасаются серьезных последствий для математического сообщества.

Ситуация осложняется прежними конфликтами вокруг математических достижений OpenAI, включая споры о признании авторства, публикации результатов и отношении компании к математикам. Хайрер описал последние дни как крайне напряженные и разочаровывающие.

Контекст

Теренс Тао, на чьем блоге объявили о создании AGMAI, является лауреатом медали Филдса и открыто критиковал поведение компаний, занимающихся искусственным интеллектом, в математике.

По словам Хайрера, группа также готова работать с другими передовыми лабораториями ИИ и уже начала переговоры с некоторыми из них, но не раскрывает их названия.