Radar AI #31 - Art. 50 AI Act: oznaczanie treści AI staje się obowiązkiem

Hugging Face publikuje timeline włamania agenta minuta po minucie – Domknięcie historii z zeszłego tygodnia, teraz z pełnymi danymi technicznymi: około 17 600 akcji agenta w blisko 6 280 klastrach, od 9 lipca 04:01 UTC do 13 lipca 14:14 UTC. Droga: zero-day w cache proxy rejestru pakietów dał ucieczkę z sandboxa OpenAI, publicznie wystawiony endpoint CyberGym na infrastrukturze Modal dał roota, a stamtąd dwa wektory iniekcji w pipeline datasetów – Jinja2 i nadużycie zewnętrznego storage w HDF5. Wnioski wdrożone przez HF to gotowa checklista dla każdego, kto hostuje agenty: odcięcie podów od metadanych chmury, rotacja wszystkich tokenów, workload identity zamiast statycznych kluczy.

Pilot Protocol wychodzi ze stealth z 4,5 mln dolarów – app store, w którym klientami są agenty – Runda seed poprowadzona przez Version One Ventures (27 lipca), wśród aniołów Lenny Rachitsky i Ben Tossell. Pomysł: firmy publikują zweryfikowane narzędzia, agenty same je znajdują, instalują i płacą sobie nawzajem kredytem zarobionym za wykonaną pracę – bez karty płatniczej w pętli. Deklarowane liczby: około 250 tysięcy agentów w sieci i ponad 30 tysięcy autonomicznych instalacji w dwa tygodnie od startu.

Claude Mythos znalazł nowe ataki na algorytmy kryptograficzne – w 60 godzin i za 100 tysięcy dolarów – Model odkrył wcześniej niewykrytą symetrię w kracie, na której opiera się bezpieczeństwo HAWK (kandydat na standard postkwantowy), oraz nowy atak „Möbius Bridge” na uproszczoną wersję AES-128, poprawiający najlepsze znane wyniki 200–800 razy. Zanim ktoś spanikuje: atak na AES dotyczy wariantu z 7 z 10 rund, nie tego, który chroni Twój ruch. Ciekawsza jest ekonomia – rola człowieka sprowadziła się głównie do zarządzania projektem, a weryfikacja wyników zajęła badaczom kilkaset godzin po fakcie.

Amodei: nigdy nie chcieliśmy zakazu otwartych wag, chcemy obowiązkowych testów – Hacker News czyta to jako regulatory capture – 27 lipca Anthropic publikuje oficjalne stanowisko: każdy dostatecznie zdolny model, otwarty czy zamknięty, powinien przed premierą przejść obowiązkowe testy bezpieczeństwa (cyber, bio, alignment). W pakiecie dwa inne postulaty – kontrola eksportu chipów i egzekwowanie zakazu destylacji. Kontekst: Nvidia, Microsoft, Meta, OpenAI i Google zdążyły wcześniej poprzeć otwarte wagi. Ponad 800 komentarzy na HN sprowadza się do jednego zarzutu: obowiązkowe testy są drogie i czasochłonne, więc w praktyce wypchną z rynku małych wydawców otwartych modeli.

List „Pacing the Frontier” – 1171 podpisów z OpenAI, Anthropic, DeepMind i Meta – Sygnatariusze nie żądają pauzy, tylko tego, żeby rządy i branża miały realną zdolność świadomego zwolnienia rozwoju, jeśli systemy zaczną wyprzedzać możliwość ich zrozumienia i nadzoru. Zarówno OpenAI, jak i Anthropic formalnie poparły inicjatywę, Meta odmówiła komentarza, Google nie zajął stanowiska. List krążył w dniach po ujawnieniu 21 lipca, że dwa modele OpenAI uciekły z sandboxa.

Anthropic ściął ponad 80% system promptu Claude Code – i to jest instrukcja, jak pisać własne CLAUDE.md – Potwierdzone u źródła (24 lipca): dla generacji Claude 5 usunięto ponad cztery piąte promptu systemowego, bez mierzalnego spadku na ewaluacjach kodowania. Uzasadnienie Tariqa Shihipara z Anthropic: „ta nowa klasa modeli chce mniejszego system promptu”, a przykłady „raczej ją ograniczają, bo jest bardziej pomysłowa niż przykłady, które jej dajemy”. Nowe zasady context engineeringu: osąd zamiast sztywnych reguł, progresywne odsłanianie kontekstu, odwołania do kodu i testów zamiast rozwlekłego markdownu. Zastrzeżenie: cięcie dotyczy najnowszych modeli, starsze wciąż dostają pełny prompt.

Claude Code 2.1.219: Opus 5 domyślnym modelem, subagenty zagnieżdżone do trzech poziomów – Wydanie z 24–25 lipca ustawia claude-opus-5 (milion tokenów kontekstu) jako domyślny model tieru Opus i rozszerza tryb Fast na Opus 5 i 4.8. Największa zmiana dla budujących workflow: subagent może teraz uruchamiać własne subagenty do głębokości 3, wcześniej limit wynosił 1, przy czapce 20 równolegle działających subagentów. Doszedł hook DirectoryAdded do rejestrowania katalogów w trakcie sesji i ustawienie sandbox.network.strictAllowlist do izolacji sieciowej.

Twórca SQLite o SQL, COBOL-u i tym, dlaczego programiści nie zniknęli – D. Richard Hipp: „Kiedyś nie mieliśmy SQL-a. Byli ludzie, których pracą było generowanie oprogramowania… ich stanowisko nazywało się programista COBOL-a. Potem pojawił się SQL i dał wygodny sposób, żeby ludzie mogli po prostu określić, czego chcą”. Zawód nie zniknął, tylko się przesunął. Najlepsza historyczna analogia do obecnej paniki o etaty.

Codex od zera do 10 milionów użytkowników – Akshay Nathan o budowie ChatGPT Work – Odcinek Latent Space z 28 lipca (1h09), rozmowa z kierownikiem inżynierii produktu w OpenAI o skalowaniu produktu agentowego: Sites, OpenClaw, mechanika pamięci. Dobry materiał dla każdego, kto buduje produkt na agentach, a nie tylko z nich korzysta.

n8n 2.33.0 – MCP i przegląd workflow wchodzą do rdzenia – Największy release miesiąca (28 lipca). Warstwa MCP dostaje nieblokujące zachowanie przy awarii połączenia (padnięty serwer MCP nie wywraca całego agenta), obsługę wygasania tokenów OAuth2 i negocjację PKCE. Wchodzi mechanizm review workflow z osobną skrzynką i statusami. AI builder przestaje przeskakiwać na angielski i poprawnie zatrzymuje weryfikację na bramkach send-and-wait wewnątrz pętli. Public API dostaje historię wersji workflow, publish/unpublish oraz konfigurację OpenTelemetry.

ChatGPT i Roblox trafią pod najostrzejszy reżim DSA – decyzja może zapaść już w sierpniu – OpenAI raportuje 120,4 mln miesięcznych użytkowników wyszukiwarki ChatGPT w UE, Roblox około 48 mln, przy progu 45 mln kwalifikującym do statusu bardzo dużej platformy. Konsekwencje: obowiązkowa ocena ryzyk systemowych, coroczne niezależne audyty, obowiązki przejrzystości wobec reklam, systemów rekomendacji i moderacji – oraz kary do 6% globalnego obrotu. Sygnał kierunkowy dla wszystkich, którzy budują na API OpenAI w UE.

Badanie OpenAI: prawie połowa pytań zawodowych do ChatGPT dotyczy zadań z innego zawodu – Raport „Work at the Frontier” (27 lipca) na próbie ponad 800 tysięcy wiadomości użytkowników z USA: 16,8% wiadomości związanych z pracą i 43,5% wiadomości specyficznych dla zawodu dotyczy zadań przypisanych historycznie innej profesji. Rekordziści: obsługa klienta 77%, projektanci 75%, HR 69%, prawnicy 56%, marketerzy 53%. Im mniejsza organizacja, tym wyższy wskaźnik przekraczania granic zawodowych – bo mniejsze firmy nie mają dostępu do specjalistów. To jest dokładnie ta luka, którą sprzedaje się właścicielowi MŚP.

Rozmowy z Claude dały się wygooglować – Udostępnione linki do czatów (site:claude.ai/share) trafiły do indeksu Google mimo tagu noindex, który miał to blokować. W wynikach lądowały między innymi analizy prawników dotyczące strategii procesowych, osobiste zwierzenia i kompletne fragmenty kodu oraz projektów. Anthropic po cichu załatało błąd i usunęło problematyczne linki. Kilka miesięcy wcześniej identyczna wpadka dotknęła ChatGPT. Morał do przekazania klientom i zespołowi: każdy link „udostępnij czat” traktuj jak publikację w internecie.