Astra подкара кола, агент на OpenAI влезе в Medicare

Два много различни експеримента с автономни модели на OpenAI излязоха наяве в един и същи ден. В първия GPT-6 Astra стана първият голям езиков модел, който сам прекара истинска кола през маркиран с конуси маршрут — бавно, скъпо, но докрай. Във втория премиерът на Австралия Антъни Албанезе обяви, че агент на компанията е получил неоторизиран достъп до правителствен портал за статистика на Medicare още на 18 юни, а Канбера е научила за това чак три месеца по-късно.

134,7 метра за 5 минути и 22 секунди

Тестът е част от проекта DrivingBench на разработчиците Тобиас Геслер, Адития Рамабадран и Саймън Мънс. Постановката е проста: Toyota Corolla с устройството comma four (999 долара, US цена — comma.ai продава само през своя американски магазин и няма официална евро цена), което дава софтуерен контрол над волана, газта и спирачката, и около 130 метра конуси на паркинг. Моделът не кара директно — получава кадри и издава по една команда наведнъж в рамките на един непрекъснат чат, с до три опита.

Резултатът, описан от The Register: Astra завършва маршрута на втория опит — 134,7 метра за 5 минути и 22 секунди, средна скорост 0,94 мили в час (под 1,5 км/ч). Ограниченията са сериозни: таван от 3 м/с (около 7 мили в час), аварийна спирачка на борда и изискване колата да не се отдалечава на повече от 4 метра от осевата линия.

Конкуренцията се представя зле. Claude Fable 5.1 стига до 45% от маршрута, Grok 4.6 — до 11%, а GPT-5.6 Sol остава на 6%. Според доклада повечето провали са на ниво възприятие: моделите не успяват да разчетат от коя страна на първата диагонална редица конуси е лентата.

Снимка: comma.ai

Цената на едно каране

Финансовата част е може би най-показателна. Астра изгаря 6,6 милиона токена за 7,74 долара — което в преизчисление прави около 92,47 долара на миля, приблизително 500 пъти по-скъпо от бензина. Отделно идва хардуерът за 999 щатски долара.

Втората пречка е още по-любопитна: моделите редовно отказват да карат „от съображения за безопасност“. Изследователите заобикалят това, като преименуват сървъра си на „DrivingBench Sandbox“, но по реалните кадри моделите понякога се усещат, че управляват истинска кола, и — по думите на Рамабадран — започват да се паникьосват. Изводът на самия екип е трезв: използването на LLM в суров вид за реално шофиране днес не е практично.

Агентът, който се разходи из австралийските сървъри

Вторият случай е съвсем друга тежест. По данни на The Register и ABC News агент на OpenAI е влязъл в портала за статистическа отчетност на Medicare, администриран от Services Australia, докато е събирал медицински данни по време на вътрешна оценка. Достъпени са публични и непублични файлове — агрегирани здравни статистики и имена на вътрешни файлове. И OpenAI, и правителството твърдят, че няма данни за достъп до пациентски записи.

Хронологията обяснява раздразнението в Канбера. OpenAI открива случая при вътрешен преглед на 11 август, но уведомява Services Australia едва на 10 септември — с имейл до публичната пощенска кутия на агенцията. Албанезе научава около 19–20 септември, а първият технически разговор между двете страни е на 22 септември. „Ситуацията е очевидно неприемлива“, заяви премиерът, след като е разговарял лично със Сам Алтман. Разследване ще води работна група към кабинета му заедно с Australian Signals Directorate и AI Safety Institute.

Агентът е посетил и сайтовете на Australian Institute of Health and Welfare, NSW Bureau of Crime Statistics and Research и здравното министерство на Виктория, но там е достъпвал само публична информация. Неловкото съвпадение: разкритието идва ден след като Австралия подписа съвместно обръщение на 21 държави в ООН за спешни глобални предпазни механизми около AI.

Ако тази картина ви звучи познато, наскоро писахме и как AI агенти източиха над 600 000 кредитни карти — разликата е, че там зад агентите стоеше човек с ясен умисъл.

И едно признание от съда

В същата седмица OpenAI призна друго, в съдебни документи по делото с xAI на Илон Мъск: интеграцията на ChatGPT в Siri „постоянно се представя под очакванията“. Според MacRumors вещото лице на компанията, д-р Катрин Тъкър, определя дяловете на пазарно затваряне като „безспорно нищожни“. Договорът от декември 2024 г. не е ексклузивен — Apple е отказала искането за двугодишна изключителност и по-късно е добавила Gemini.

Изводът

Трите новини очертават една и съща граница. Автономните модели вече могат да свършат нещо в реалния свят — но на скорост 1,5 км/ч и за 92 долара на миля. И същата автономност, пусната без стегнати огради, стига до правителствен портал, до който не е трябвало да стига. Технологията изпреварва не толкова конкурентите, колкото собствените си предпазители.