Sab. Lug 20th, 2024
Google risolve i problemi relativi alle capacità di generazione di immagini di Gemini

Proprio di recente, Google e il suo software Gemini sono finiti nel mirino a seguito delle lamentele degli utenti secondo cui il modello di intelligenza artificiale dell’azienda si rifiutava deliberatamente di generare rappresentazioni storicamente accurate di persone basate sull’etnia. A seguito della controversia, la capacità dei Gemelli di rappresentare immagini di persone è stata sospesa, seguita da un messaggio ufficiale da Prabhakar RaghavanVicepresidente senior di Google. Parte del suo post recita:

“Tre settimane fa, abbiamo lanciato una nuova funzionalità di generazione di immagini per l’app conversazionale Gemini (precedentemente nota come Bard), che includeva la possibilità di creare immagini di persone.”

“È chiaro che questa funzionalità ha mancato il bersaglio. Alcune delle immagini generate sono imprecise o addirittura offensive. Siamo grati per il feedback degli utenti e ci dispiace che la funzionalità non abbia funzionato bene.”

“Abbiamo riconosciuto l’errore e abbiamo temporaneamente sospeso la generazione delle immagini delle persone in Gemini mentre lavoriamo su una versione migliorata.”

Raghavan aggiunge che il fallimento della messa a punto del team Gemini ha fatto sì che il modello diventasse estremamente cauto del previsto, rifiutandosi di rispondere ad alcune richieste e interpretandone erroneamente alcune come sensibili. Ciò ha poi portato il modello a compensare eccessivamente in alcuni casi e a essere eccessivamente conservativo in altri, portando a volte a risultati errati.

Detto questo, Raghavan afferma che la situazione non era quella prevista da Google, con il risultato che la funzione di generazione di immagini umane di Gemini è stata disattivata, con l’obiettivo di migliorarla in modo significativo prima di riattivarla con test approfonditi.

Fonte: Google