Kafa za Francuza, policija za Alžirca: korisnici optužuju Gemini za pristrasnost

Guglov AI Overviews davao je različite savete u zavisnosti od nacionalnosti pomenute u pitanju – dok je za Britanca predlagao čaj, za Alžirca je savetovao pozivanje policije. Francuski mediji preneli su testove korisnika, a Google je priznao problem i najavio poboljšanja. Testovi na drugim chatbotovima otkrili su slične pristrasnosti prema romskoj zajednici.

• Korisnici su otkrili da Guglova AI funkcija Overviews daje različite, često diskriminatorne savete zavisno od nacionalnosti.
• Pitanje 'Sam sa Italijanom' dobilo je odgovor o šarmu, a 'sam sa Alžirca' broj policije.
• Google je odgovorio na društvenoj mreži X da su rezultati neodgovarajući i da radi na poboljšanjima.
• Test francuskog portala Next pokazao je da Gemini, ChatGPT i Claude favorizuju zapadne nacije, a Rome označavaju kao opasne.
• Stručnjaci objašnjavaju da chatbotovi reprodukuju stereotipe iz podataka kojima su obučavani.