Wróć do bloga
Agenci AI

Guardian – projekt naszego kursanta

Wolny portal ogłoszeniowy sprzedawczyk.shop deklaruje, że podejrzane ogłoszenia mają być wykrywane możliwie wcześnie. Guardian to panel, który to realizuje: skanuje ogłoszenia pod kątem ryzyka, spamu i duplikatów, a naruszenia regulaminu blokuje sam i zgłasza na Telegrama.

4 min czytania
case study, moderacja treści, AI, Telegram, marketplace

Portal ogłoszeniowy, na który każdy może bez opłat wrzucić dowolny przedmiot, ma jeden strukturalny problem: nikt nie czyta wszystkiego ręcznie. Broń, oszustwa, spam i zwykłe pomyłki w kategoriach wpadają do tej samej kolejki co uczciwe ogłoszenia.

sprzedawczyk.shop – darmowy portal ogłoszeniowy w 12 kategoriach – wprost deklaruje na stronie głównej: „Budujemy portal, w którym podejrzane ogłoszenia i oszustwa mają być wykrywane możliwie wcześnie”. Guardian to panel administracyjny, który tę deklarację zamienia w codzienną praktykę.

Jeden skan, jedenaście liczb

Panel Guardiana nie tylko flaguje pojedyncze ogłoszenia – po każdym przebiegu zostawia zestawienie tego, co znalazł:

MetrykaWynik ostatniego skanu (100 ogłoszeń)
Sprawdzone47
Wysokie ryzyko2
Spam1
Duplikaty4
Podobne0
Ukryte linki0
Słaba czytelność7
Problemy zdjęć12
Możliwie złe kategorie6
Automatycznie poprawione4
Analiza AI10
Panel administratora Guardiana z zestawieniem wyników analizy ogłoszeń: ryzyko, spam, duplikaty, czytelność, zdjęcia, kategorie

Dziewięć różnych sygnałów w jednym przebiegu oznacza, że administrator nie musi zgadywać, gdzie zacząć – widzi od razu, ile ogłoszeń wymaga uwagi i z jakiego powodu.

Blokuje sam, pyta tylko wtedy, gdy musi

Gdy Guardian trafi na ogłoszenie, które łamie regulamin wprost, nie czeka na akceptację administratora. Blokuje je i wysyła powiadomienie na Telegrama z konkretnym powodem:

text
Zablokowano ogłoszenie #48
tytuł: broń palna pistolet, karabin snajperski
powód: Ogłoszenie zawiera treść objętą
bezwzględnym zakazem regulaminowym.

Inaczej wygląda sytuacja, gdy pytanie wykracza poza proste tak/nie. Użytkownik #1 zapytał: „ile kosztuje konto premium?”. Guardian nie zgadywał odpowiedzi – przesłał pytanie na Telegrama z ID zgłoszenia i linkiem do panelu:

text
Pytanie do administratora
ID pytania: #40
Użytkownik: #1
Pytanie: "ile kosztuje konto premium?"

Administrator odpisał wprost w Telegramie – „nie przewidujemy kont premium” – a Guardian sam dostarczył tę odpowiedź użytkownikowi i zamknął zgłoszenie:

Wątek na Telegramie: Guardian blokuje ogłoszenie z bronią, przesyła pytanie użytkownika do administratora, dostarcza odpowiedź i zamyka zgłoszenie
12
kategorii ogłoszeń na portalu
0 zł
koszt dodania ogłoszenia
1
kanał (Telegram) do obsługi blokad i pytań

To rozróżnienie jest sednem projektu. Naruszenie regulaminu Guardian rozstrzyga sam, bo reguła jest jednoznaczna. Pytanie, na które nie ma jednej poprawnej odpowiedzi, trafia do człowieka – ale nawet wtedy administrator nie musi otwierać osobnego panelu, żeby odpisać. Robi to jedną wiadomością w Telegramie, a Guardian dba o resztę: dostarczenie odpowiedzi i zamknięcie zgłoszenia.

Krótką prezentację portalu można zobaczyć na YouTube, a sam serwis działa pod adresem sprzedawczyk.shop.

To kolejny z projektów, jakie kursanci StormIT budują dla siebie w trakcie nauki. Zobacz pozostałe albo sprawdź, jak zacząć swój.

Chcesz wdrożyć to u siebie?

Praktyczne kursy i wdrożenia AI oraz automatyzacji. Albo zapisz się na newsletter, żeby nie przegapić nowych treści.