Google demantira obiteljsku priču o banu: 'Tako ne radi'

Obitelj iz Velike Britanije tvrdila je da im je Google blokirao sve račune nakon što je 14-godišnji sin prekoračio pravila korištenja AI asistenta Gemini. Prema objavi na Redditu, sin je poslao intimne fotografije putem tableta koji je koristila cijela obitelj, što je navodno rezultiralo automatskim banom svih računa povezanih s uređajem.

Google je na to reagirao izjavom koja jasno razdvaja činjenice od obiteljske verzije: 'Akcije poduzete na djetetovom računu ne bi trebale rezultirati banom drugih članova obitelji.' Situacija otkriva koliko su Googleovi sustavi zaštite – posebno oni povezani s obiteljskim računima – složeni i nejasni korisnicima. Dok tvrtka tvrdi da nema dokaza o takvom incidentu u svojim zapisima, obitelj i dalje inzistira na svojoj verziji.

Razlika između tehničke stvarnosti i korisničkog doživljaja postaje posebno izražena u slučajevima poput ovog, gdje su pravila nevidljiva, a posljedice vrlo konkretne. Android Authority prenosi da Googleova politika jasno navodi kako roditeljski račun može utjecati na djetetov, ali ne i obrnuto. Ipak, obitelj tvrdi da se ban proširio na sve račune povezane s istim uređajem, što upućuje na moguće greške u primjeni pravila ili nejasnoće u komunikaciji s korisnicima.

Ovaj slučaj nije samo tehnička zanimljivost – on otvara pitanje koliko korisnici zapravo razumiju kako funkcioniraju alati koje svakodnevno koriste. Googleove izjave sugeriraju da je obitelj pogrešno interpretirala mehanizam bana, ali to ne mijenja činjenicu da je doživljaj korisnika bio vrlo realan i frustrantan.

Ako se sustav ponaša na način koji korisnici ne mogu predvidjeti, čija je to greška – korisnika koji 'ne razumiju' ili platforme koja ne uspijeva jasno komunicirati pravila? U širem kontekstu, incident je još jedan primjer kako AI alati – iako korisni – mogu stvoriti nove vrste nesporazuma.

Gemini, kao interaktivni asistent s mogućnošću obrade vizualnih i tekstualnih ulaza, predstavlja posebno osjetljivo područje. Dok Google inzistira na tome da sustav radi kako je zamišljen, korisnička iskustva poput ovog upućuju na potrebu za većom transparentnošću ili prilagodbom mehanizama zaštite. Googleova službena politika naglašava da roditelji mogu upravljati djetetovim računom, ali ne spominje scenarij u kojem bi djetetov ban automatski utjecao na cijelu obitelj.

Stvarni signal ovdje nije samo tehnički detalj, već širina jaza između onoga što tvrtke obećavaju i onoga što korisnici doživljavaju.

Konačno, ovaj incident podsjeća da tehnologija, koliko god bila napredna, mora biti usklađena s ljudskim potrebama i očekivanjima. Bez bolje suradnje između tvrtki i korisnika, jaz između obećanja i stvarnosti može samo rasti.