Kwiaty konopi indyjskich i brokuły wyglądają bardzo podobnie, ale sztuczna inteligencja Facebooka potrafi je odróżnić.
Na dorocznej konferencji dyrektor techniczny Facebooka Mike Schroepfer omówił, w jaki sposób gigant mediów społecznościowych jest w stanie wykorzystać sztuczną inteligencję do wykrycia “treści naruszających politykę”, w tym reklam do sprzedaży konopi na platformie. Śmiało możemy potwierdzić tę informację, ponieważ kiedy chcieliśmy promować nasz susz CBD Cannabis Light, algorytm od razu informował, że zdjęcie narusza politykę serwisu. Oczywiście nie sprzedajemy marihuany tylko susz konopi włóknistych, ale jest on łudząco podobny do marihuany.
Mike Schroepfer porównał obrazy smażonych brokułów i marihuany, które opisał jako “najbardziej łagodny przykład” zabronionych treści, które algorytm potrafi wyłapać.
Jeszcze pięć lat temu firma polegała na zgłoszeniach od innych użytkowników oraz konkretnych treściach, aby oznaczyć profile reklamujące marihuanę – na przykład, czy reklamodawca „wcześniej został przyłapany na robieniu złych rzeczy”, czy też w poście użył „oczywistych słów”, takich jak „marihuana” lub „narkotyki”. Ale w miarę rozwoju sztucznej inteligencji Facebook opracował system, który może wizualnie odróżniać konopie od innych różnych przedmiotów.
Marihuana vs brokuły
How Facebook flags marijuana on the social network. #F82019 pic.twitter.com/on62gJ3Y2e
— Queenie Wong (@QWongSJ) 1 maja 2019
Aby wyjaśnić mechanizm działania, Schroepfer umieścił oba obrazy na ekranie i rzucił wyzwanie publiczności, by je rozróżnić.
Kilku ludzi uważało, że brokuły to marihuana, ale większość zgadywała dobrze. Algorytm wizualny był w 94 procentach pewien, że marihuana w rzeczywistości była marihuaną, a w 88 procentach był pewien, że na drugim obrazie były brokuły.
Audience participation at #f8. Which of these is tempura broccoli and which is marijuana? Facebook's vision algorithms can tell pic.twitter.com/tITTU8EdF4
— Tom Simonite (@tsimonite) 1 maja 2019
W przypadku Facebooka technologia oferuje wygodny sposób usprawnienia działań związanych z egzekwowaniem polityki. Jednak dla wielu firm zajmujących się konopiami, które prowadzą konta na Facebooku, algorytm wizualny jest wrogiem numer jeden.
Zakaz treści promujących sprzedaż marihuany miał konsekwencje dodatkowe dla stron, które nie sprzedają produktów z konopi, na przykład Fakty Konopne, a także państwowe organy regulacyjne, takie jak Massachusetts Cannabis Control Commission. Strony te były czasami ukrywane w wynikach wyszukiwania (technika określana jako „shadowbanning”), ponieważ algorytm nie jest w stanie dokładnie odróżnić reklam komercyjnych od artykułów związanych z konopiami. Profil naszego suszu Cannabis Light od samego początku otrzymał shadow bana i zapewne jest on spowodowany użyciem słowa “cannabis” w nazwie, więc wyszukanie go graniczy z cudem.
A very high tech discussion on which of these images AI would consider to be marijuana or tempura broccoli (spoiler: it's broccoli on the right) #f82019 pic.twitter.com/nNk3sdTV2M
— john colucci (@johncolucci) 1 maja 2019
Na horyzoncie pojawiła się jednak możliwość zmiany polityki Facebooka. Spółka poinformowała w marcu, że chce „rozważyć, czy możemy rozluźnić to ograniczenie, zwłaszcza w odniesieniu do marihuany medycznej, legalnej marihuany i sklepów z akcesoriami do palenia”. Facebook będzie nadal egzekwować tę politykę i nie przedstawił do tej pory aktualizacji statusu podczas konferencji, która odbyła się w środę.
„To jest sprzeczne z naszą polityką, ponieważ jest sprzeczne z amerykańskim prawem federalnym, więc nie możesz reklamować marihuany na Facebooku”, powiedział Schroepfer.