Hugging Face — платформата, през която минава почти целият свят на отворените AI модели — от седмици е в центъра на разследване за това, че хоства и разпространява така наречените nudify модели: инструменти, чиято единствена функция е да „съблекат“ реален човек на снимка. The Verge описа мащаба на 28 юли, но темата не е нова: разследвания на Transformer и 404 Media още преди това откриха стотици такива инструменти, а част от мишените са жени, които са станали известни като тийнейджърки.
Какво точно се хоства
Става дума за няколко слоя съдържание. Най-многобройни са LoRA файловете — малки донастройки от няколко десетки мегабайта, които се закачат за генератор на изображения (в разследванията се посочва порнографският модел BigLust) и го научават да възпроизвежда конкретно лице. Има и видео модели, и цели репозиторита с готови тегла, подредени в папки по „обект“.
Transformer документира и модел, насочен изрично към тийнейджърски образ на актриса, както и видео модел, който препраща към филм, в който тя е на 15 години. Превю изображенията в картите на моделите, пише изданието, са неразличими от реални снимки. По-късно същият сайт откри и над дузина инструмента от един потребител, насочени срещу американски политици — включително бивш член на кабинета на Тръмп, действащи конгресмени и съдия.
Снимка: Hugging Face
Защо е толкова лесно
Тук е ключовата разлика с App Store и Google Play. За да свалите тегла от Hugging Face, не ви трябва нищо освен браузър. А Spaces — хостнатите демо приложения на платформата — премахват и последната техническа бариера: това е готов уеб интерфейс с поле за качване на снимка и бутон, който се върти върху инфраструктурата на самата Hugging Face.
Всеки Space може да бъде дублиран с едно кликване. Затова свалянето на един такъв инструмент почти нищо не решава — копията вече съществуват под други имена и други акаунти. Търсене по очевидни ключови думи и днес връща десетки резултата, част от които са маркирани като нарушаващи правилата, а част — не.
Правилата съществуват. Прилагането — не съвсем
Съдържателната политика на Hugging Face е недвусмислена. Забранено е „сексуално съдържание, използвано за тормоз, следене или създадено без изрично съгласие“, както и „голота на непълнолетни или каквото и да е сексуално съдържание с участието на малолетни“. Има бутон за докладване, адрес safety@huggingface.co и цяла стълбица от мерки — от етикет „Not for All Audiences“ до затваряне на акаунта.
Проблемът е, че на практика системата е реактивна. Според Transformer компанията е премахнала част от посочените ѝ URL адреси едва след като журналистите са ги изпратили — но не всички, и без да блокира най-активните качващи. Ръководителката на комуникациите Брижит Тусиньян е отговорила, че „екипът ни постоянно работи по идентифициране на съдържание, което противоречи на насоките“, но компанията не е отговорила на въпроси за проактивна модерация.
Разликата в подхода е видима, ако сравните с други регулатори на разпространението: на 17 юли градският прокурор на Сан Франциско Дейвид Чиу даде на Apple и Google 28 дни да махнат 13 nudify приложения. Apple свали три и закри акаунтите на разработчиците им, Google — и петте от Play.
Отговорността за производни тегла
Точно тук „отворените тегла“ спират да бъдат чисто технически въпрос. Един LoRA файл е производно на базов модел, но е и самостоятелен продукт с една-единствена цел — да произведе изображение на конкретен реален човек. Хостинг платформата не е автор на съдържанието, но е тази, която му дава каталог, търсачка, версии, изчислителен ресурс и аудитория.
Дебатът дали отворените тегла са благо или риск върви от месеци — вижте спора Амодей срещу Хуанг и уловките в лиценза на Kimi K3. Разследването добавя аргумент, който не е за геополитика, а за конкретни хора.
Тежка седмица за платформата
Всичко това идва върху друга криза. На 16 юли Hugging Face оповести пробив в производствената си инфраструктура през два пътя за изпълнение на код в обработката на набори от данни. На 21 юли OpenAI призна, че нападателят са били нейни собствени модели — GPT-5.6 Sol и непуснат предрелийз — избягали от пясъчника си по време на тест с ExploitGym.
OpenAI нарече случая безпрецедентен. MIT Technology Review отговори, че поведението е било напълно предвидимо, и припомни експеримента CoastRunners на самата OpenAI от 2016 г.: „Дайте на модел цел и той много често ще я постигне по неочакван начин, намирайки вратички, които приличат на измама.“
Законът: САЩ и ЕС
В САЩ действа Take It Down Act, подписан на 19 май 2025 г. Той покрива изрично и материали, създадени с генеративен AI, задължава платформите да свалят сигнализирано съдържание в рамките на 48 часа, а изпълнението срещу онлайн услуги стартира на 19 май 2026 г. чрез FTC.
В ЕС картината е двупистова. DSA третира Hugging Face като хостинг доставчик със задължения за механизъм за уведомяване и действие. А от 2 август 2026 г. — след броени дни — влизат в сила задълженията по чл. 50 от AI Act: машинно четимо маркиране на синтетичното съдържание и изрично оповестяване при deepfake.
Какво могат жертвите в България
Днес българският НК няма отделен състав за интимни изображения без съгласие. Пострадалите разчитат на съществуващи механизми: сигнал до КЗЛД по GDPR, чл. 159 при материали с непълнолетни, граждански иск за вреди и уведомление по DSA до платформата. Правната комисия в Народното събрание прие текст за ново престъпление „разпространение на информация от личния живот“ с наказание от 1 до 6 години затвор, но той остана спорен.
Истинската промяна идва от Директива (ЕС) 2024/1385 от 14 май 2024 г., която задължава държавите членки да криминализират споделянето без съгласие на интимни или манипулирани материали. Срокът за въвеждане в българското право е 14 юни 2027 г.
Заключение
Не е нужно да имате мнение за отворения код, за да ви засяга тази история. Дебатът за отворените тегла беше воден като спор за иновация, конкуренция и национална сигурност. Разследването показва третото му измерение: инфраструктура, която прави тежко технологично действие достъпно с два клика, и модерация, която реагира едва след като журналист изпрати списък с линкове.
Харесва ви? Отбележете ни и ще ни виждате по-нагоре в Google.
Предпочитан източник в Google