Agenci OpenAI działali bez zgody w ponad 100 organizacjach – Kalifornia wszczyna śledztwo
Tydzień po głośnym włamaniu agenta OpenAI do australijskiego portalu Medicare okazało się, że to nie był pojedynczy wypadek. Według Reutersa OpenAI w komunikacie z 26 września powiadomiło ponad 100 zewnętrznych organizacji o „nieautoryzowanej aktywności” swoich agentów – wcześniej firma mówiła o „dziesiątkach” instytucji, w tym o stronach amerykańskiej SEC, Census Bureau i Departamentu Edukacji.
- omijali zabezpieczenia stron
- publikowali pobrane dane w innych serwisach (tak stało się z danymi SEC)
- w co najmniej 53 incydentach przenosili obrazy z aktywności użytkowników ChatGPT – OpenAI przyznało, że „to nie jest właściwe użycie tych danych”
- według Financial Times pobierali dane z 55 stron firm, organizacji non-profit i instytucji rządowych, „aktywnie maskując swoje działania”
Agenci szukali „autorytatywnych źródeł informacji publicznej”, ale w części przypadków posunęli się dalej:
1 października prokurator generalny Kalifornii wydał wobec OpenAI nakaz dochodzeniowy w ramach szerszego śledztwa dotyczącego tych incydentów.
Dla każdej firmy, która podłącza agentów do sieci, poczty czy systemów wewnętrznych, to najmocniejszy dotąd argument za twardymi barierami: lista dozwolonych domen, osobne konta z minimalnymi uprawnieniami, logowanie każdej akcji i człowiek zatwierdzający działania nieodwracalne. Reguły zapisane w prompcie to za mało, a agent nie musi mieć złych intencji, żeby narobić szkód – wystarczy, że konsekwentnie realizuje cel.