AI

Редакция Overclock.bg ·

Математици зоват за бойкот на OpenAI заради 700 файла

Математици зоват за бойкот на OpenAI заради 700 файла

На 7 октомври в блога на Теренс Тао се появи гост-публикация, която в математическите среди вече е наричана просто „позицията“: Асоциацията за човешка математика (AHM) призовава колегите си да прекратят работата си с OpenAI. Поводът е публикуването ден по-рано на над 700 AI-генерирани математически ръкописа наведнъж — ход, който AHM определя не като научен принос, а като „демонстрация на сила“.

Какво точно пусна OpenAI

На 6 октомври компанията отвори публично хранилище openai/math в GitHub под лиценз Apache-2.0. В него влязоха 722 ръкописа, подредени в 372 „фамилии“ резултати — от теория на числата и алгебрична геометрия до топология, математическа логика и теоретична информатика. Към момента описанието на хранилището сочи 719 ръкописа, след като част от материалите вече са изтеглени или преработени.

Самото хранилище дава и числата, които липсват в заглавията: моделът е бил изправен пред около 4000 задачи, а публикуваното е подборът, който OpenAI е преценила, че си струва. Средно всеки приет резултат е погълнал около три часа „мислене“ с изчислителния ресурс на ChatGPT Pro, а работата е свършена от неиздаден вътрешен модел. Около 42% от основните твърдения имат формална проверка в Lean; за останалите в README-то изрично пише, че „някои от неформализираните резултати може да имат проблеми“.

Точно тази асиметрия дразни математиците. Форматът е на научна статия, но няма нито човешка редакция, нито рецензиране, нито възможност резултатите да бъдат възпроизведени — моделът не е публичен. „Докато не пуснат модела и хората не могат да повторят резултатите, приемайте скептично всякакви твърдения за решаване на задачи от първи опит“, коментира пред Engadget математикът от MIT Андрю Съдърланд.

Защо реакцията е толкова остра

AHM изброява три възражения. Първото е процедурно: „математиците не са искали тази работа да бъде свършена“. Второто е за научните норми — организацията говори за „пълно пренебрежение“ към тях. Третото е за рамката: масовото изсипване на файлове изглежда като заявка за позиция, а не като участие в дисциплина, която живее от проверимост и четимост.

Контекстът е важен. Само две седмици по-рано, на 21 септември, беше обявена Консултативната група по математика и изкуствен интелект (AGMAI) — девет изследователи, домакинствани от Института за перспективни изследвания в Принстън, сред които Тимъти Гауърс, Мартин Хайрер, Едуард Уитън и Рави Вакил. Групата работи без заплащане и независимо от AI компаниите, а една от първите ѝ препоръки беше именно че челните компании не трябва да тестват сериозни открити задачи върху вътрешни модели и после да публикуват наготово. OpenAI се позова на AGMAI като на легитимация — и въпреки това тръгна в обратната посока.

Състезанието за Unique Games

Най-показателната история е разказана от Quanta Magazine. На 11 септември Дор Минзер от MIT получава съобщение от приятел с въпрос дали е близо до решението на една от най-известните открити задачи в теоретичната информатика. Причината: из общността вече обикалят слухове, че OpenAI е стигнала до доказателство.

Дор Минзер от MIT Снимка: Dor Minzer / Quanta Magazine

Три дни по-късно Минзер и докторантите му Юмоу Фей и Шуо Ван качват 95-страничен препринт — нешлифован, признато грубо написан, но пълен. Избрали са приоритета пред стила. Работата им засяга вариант на хипотезата Unique Games, формулирана през 2002 г. от Субхаш Кот; накратко, тя твърди, че за цял клас задачи за оцветяване на графи дори приблизителното решение остава изчислително трудно. Минзер работи по темата от седем години.

На 6 октомври OpenAI пусна своето проверено с Lean доказателство заедно с останалите стотици резултати. „Те решиха задачата по старомодния начин — с ума си, и я написаха със собствените си пръсти“, казва за екипа на Минзер Райън О’Донъл от Carnegie Mellon.

Четимостта като проблем

Отделен и много практичен спор е как изглеждат текстовете. Дана Мошковиц, която също изследва Unique Games, описва пред The Decoder един от ръкописите така: „Усеща се като написано от човек под психеделици“, а статията е толкова зле написана, че е невъзможно да я четете без помощ от AI. Тоест AI генерира материал, който се проверява с AI — цикъл, в който човешкото разбиране остава някъде встрани.

Това не е спор дали моделите са полезни в математиката. Тао от години използва AI инструменти и говори за „Math 2.0“, в която решаването на задачи няма да е главното занимание на дисциплината. Спорът е за реда: кой задава въпросите, кой гарантира проверката и кой чете резултата.

Какво следва

OpenAI публикува и десет съкратени резюмета на разсъжденията на модела, но не и самия модел. Докато това не се промени, независимата проверка на 700 файла остава ръчна работа за хора, които не са я искали. Част от общността ще седне да проверява; част, съдейки по позицията на AHM, ще откаже дори това.

Струва си да следите две неща: колко от неформализираните твърдения ще оцелеят след човешки прочит и дали AGMAI ще остане в ролята на консултант. За сравнение, при новия интерфейс на ChatGPT с GPT-6 ефектът беше продуктов, а тук става дума за научна литература. А въпросът как се разпознава AI-генерирано съдържание получи наскоро и друг отговор — Google отвори SynthID Detector за всички. В математиката обаче воден знак не помага: там проверката е самото доказателство.

Харесва ви? Отбележете ни и ще ни виждате по-нагоре в Google.

Предпочитан източник в Google

Прочетете още