OpenAI пытается восстановить доверие математиков после серии спорных заявлений
Компания создала независимую группу математиков, которая должна консультировать OpenAI и другие AI-компании по вопросам публикации математических результатов. Исследователи приветствуют этот шаг, но сомневаются в ее полномочиях и влиянии
Один основной источник · Как мы проверяем новости
Что произошло
OpenAI создала независимую группу математиков, которая будет консультировать компанию и другие AI-компании по вопросам взаимодействия с математическими исследованиями и более широким научным сообществом. В ее задачи также войдут рекомендации по представлению и публикации новых результатов.
Создание группы последовало за серией громких математических достижений OpenAI, которые, как отмечает The Verge, неоднократно сопровождались неудачной коммуникацией и конфликтами с исследователями.
Претензии исследователей
Многие математики узнали о новой группе неожиданно. Исследователи считают ее создание потенциально полезным, но пока не понимают, какими будут ее реальные полномочия, насколько OpenAI будет учитывать ее рекомендации и сможет ли небольшая группа известных ученых представлять интересы всего сообщества.
Дополнительные споры вызвали вопросы об источниках данных и возможном использовании неопубликованных работ. Andreas Thom написал на Mastodon, что взаимодействия с ChatGPT до публичного заявления OpenAI могли повлиять на результаты компании.
Один из десяти результатов, о которых OpenAI с большой оглаской объявила в прошлом месяце, касался области Thom — так называемых несофических групп. Компания признала, что этот результат в значительной степени опирался на предыдущие работы Thom и математика Gábor Kun.
Почему это важно
OpenAI все активнее работает над сложными математическими задачами и стремится демонстрировать возможности своих моделей. Однако математики опасаются, что стремление компании опередить конкурентов может ослабить устоявшиеся нормы научной работы.
По мнению критиков, компания относится к математике иначе, чем исследователи, которые стремятся развивать саму область. На этом фоне публикация новых результатов может усилить напряженность в сообществе.
Контекст
Заявление OpenAI о решении одной из задач Millennium Prize могло бы стать историческим достижением. Но обстоятельства, при которых компания взялась за эту проблему после новостей о прогрессе других исследователей, привели к обвинениям в перехвате чужой работы, слежке и нарушении академических норм.
На этом фоне новую группу математиков рассматривают как попытку OpenAI выстроить менее конфликтный подход к дальнейшим публикациям.
Источники
Один основной источник. Как мы проверяем новости
