Współczesne narzędzia sztucznej inteligencji (AI) do generowania obrazów, pomimo licznych badań nad stronniczością, nadal wykazują rażące uprzedzenia kulturowe. Najnowszym przykładem jest chatbot Meta AI, który z niewiadomych przyczyn często dodaje turbany do obrazów hinduskich mężczyzn, bez względu na kontekst czy zawód przedstawiony w poleceniu.

Utrwalanie stereotypów w generowanych obrazach

Pomimo różnorodności ludności Indii, brak różnorodnej reprezentacji w zbiorze danych AI prowadzi do utrwalania stereotypów. W generowanych obrazach hinduscy mężczyźni są niemal zawsze przedstawiani w turbanach, co nie odzwierciedla rzeczywistości. Ta tendencja budzi obawy o wpływ takich narzędzi na postrzeganie i przedstawianie różnych kultur.

Meta AI i obsesja na punkcie turbanów

TechCrunch przeprowadził testy chatbota Meta AI, który został uruchomiony w kwietniu 2024 roku w ponad tuzinie krajów, w tym w Indiach. Wnioski z tych testów są zaskakujące. Generując obrazy na podstawie polecenia „hinduski mężczyzna”, chatbot Meta AI w zdecydowanej większości przypadków dodawał turban, nawet jeśli polecenie nie sugerowało noszenia tego nakrycia głowy.

Przykłady stronniczości w generowanych obrazach

Przykłady stronniczości Meta AI są liczne. Przy poleceniu „hinduski mężczyzna idący ulicą” chatbot generował wyłącznie obrazy mężczyzn w turbanach. Podobnie było z poleceniami „hinduski mężczyzna grający w szachy”, „hinduski mężczyzna gotujący” czy „hinduski mężczyzna pływający”. W większości przypadków generowane obrazy przedstawiały hinduskich mężczyzn w turbanach, niezależnie od kontekstu.

Brak różnorodności w generowanych obrazach

Stronniczość Meta AI była widoczna również w przypadku poleceń niezwiązanych z płcią. W przypadku poleceń dotyczących różnych zawodów i ustawień, np. „archITekt”, „polITyk”, „gracz w badmintona”, „łucznik”, „pisarz”, „malarz”, „lekarz”, „nauczyciel”, „sprzedawca balonów”, „rzeźbiarz”, chatbot generował obrazy mężczyzn w turbanach.

Utrwalanie stereotypów i brak dokładności

Meta AI również generował obrazy hinduskich fotografów z przestarzałymi aparatami, z wyjątkiem jednego, gdzie małpa również miała lustrzankę cyfrową. Przy poleceniu „hinduski kierowca” chatbot generował obrazy sugerujące klasowe uprzedzenia, dopóki nie dodano słowa „elegancki”.

Meta AI: brak różnorodności w generowaniu obrazów

Meta AI ma tendencję do generowania jednego rodzaju obrazu dla podobnych poleceń. Na przykład, chatbot stale generował obraz starego hinduskiego domu o żywych kolorach, drewnianych kolumnach i stylizowanych dachach, pomimo faktu, że większość hinduskich domów nie wygląda w ten sposób.

Wpływ stronniczości na AI i użytkowników

Stronniczość obserwowana w Meta AI jest prawdopodobnie spowodowana niewystarczającymi danymi treningowymi i niewystarczającym procesem testowania. Chociaż nie można przetestować wszystkich możliwych wyników, powszechne stereotypy powinny być łatwe do wykrycia. Meta AI wydaje się wybierać jeden rodzaj reprezentacji dla danego polecenia, co wskazuje na brak różnorodnej reprezentacji w zbiorze danych, przynajmniej w odniesieniu do Indii.

Reakcja meta na zarzuty o stronniczość

Meta przyznało, że pracuje nad ulepszeniem swojej technologii generowania AI, ale nie podało szczegółów na temat procesu. Firma podkreśliła, że jest to nowa technologia, która może nie zawsze generować pożądane wyniki. Meta AI jest dostępny bezpłatnie w wielu usługach, co oznacza, że ​​miliony ludzi z różnych kultur mogą go używać na różne sposoby.

Konieczność odpowiedzialnego rozwoju AI

Chociaż firmy takie jak Meta stale pracują nad ulepszaniem modeli generowania obrazów pod względem dokładności generowania obiektów i ludzi, ważne jest również, aby te narzędzia były tak skonstruowane, aby nie utrwalały stereotypów. Meta AI jest prawdopodobnie wykorzystywane do publikowania treści na platformach firmy. Jeśli stronniczość w generowaniu obrazów będzie się utrzymywać, może to przyczynić się do utrwalania lub pogłębiania uprzedzeń wśród użytkowników i widzów. Indie to kraj o dużej różnorodności kulturowej, kastowej, religijnej, regionalnej i językowej. Firmy tworzące narzędzia AI muszą lepiej przedstawiać różne grupy społeczne.