ChatGPT postaje priručna klinika za 2 milijuna pitanja tjedno

Chengpeng Mou, šef poslovnih financija u OpenAI-u, bacio je svjetlo na nešto što već znamo, ali što rijetko vidimo u brojkama: ChatGPT nije samo alatom za generiranje teksta, nego de facto zdravstvenom uslugom za one kojima je pristup ograničen. Podaci s anonymiziranih američkih korisnika pokazuju da se tjedno šalje oko 2 milijuna poruka vezanih za zdravstveno osiguranje, dok 600.000 dolazi iz „pustinja bolnica“ — područja gdje je najbliža bolnica udaljena 30 minuta vožnje.

Razlog za zabrinutost (ili, ovisno o perspektivi, nadu) nije samo volumen, nego i vremenski obrasci: 7 od 10 zdravstvenih upita dolazi van radnog vremena klinika. To nije slučajnost, nego sistematski trend koji ukazuje na to da ljudi traže odgovore kada im tradicionalni kanali nisu dostupni.

A ako je AI već sada prva linija podrške za stotine tisuća ljudi u zdravstvenim pustinjama, tko zapravo odgovara za točnost tih odgovora?

Da stvari budu gore (ili bolje, ovisno o stajalištu), 30-minutni prag za definiciju „pustinje bolnice“ nije proizvoljan. To je standardna metrika u zdravstvenoj geografiji, što znači da OpenAI-ovi podaci ne otkrivaju samo korištenje ChatGPT-a, nego i duboke regionalne nejednakosti u pristupu zdravstvenoj zašti.

Ako 600.000 ljudi tjedno traži savjete od LLM-a jer im je najbliži liječnik previše daleko, to nije priča o tehnologiji, nego o propustima sustava. Još zanimljivije je pitanje tko ovdje stječe prednost.

OpenAI, naravno, dobiva podatke o realnom ponašanju koje može iskoristiti za poboljšanje modela — ili za argumentiranje pred regulatorima. Zdravstveni sustavi, s druge strane, dobivaju besplatnu „prvu pomoć“ koja im smanja opterećenje, ali i gube kontrolu nad informacijama koje pacijenti dobivaju.

Na kraju, ovo je zapravo pitanje o ljudskim vrijednostima i etici, a ne samo o tehnologiji. Moramo se zapitati što točno želimo postići s ovom tehnologijom i kako ćemo osigurati da ona služi najboljim interesima svih ljudi.