In Breve
- Cosa ha richiesto il procuratore di San Francisco?
- David Chiu ha chiesto la rimozione di tredici app che generano immagini intime non consensuali tramite IA.
- Quali sono le conseguenze per le vittime?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
- Cosa ha dichiarato Google riguardo a questa situazione?
- Google ha affermato di aver già rimosso centinaia di app con funzioni di nudificazione.
Il procuratore della città di San Francisco, David Chiu, ha preso una posizione forte contro le applicazioni che utilizzano l’intelligenza artificiale per generare immagini intime non consensuali. In una recente iniziativa, Chiu ha inviato diffide ad Apple e Google, richiedendo la rimozione immediata di tredici applicazioni di face-swapping, di cui otto disponibili sull’App Store e cinque sul Play Store.
Chiu ha chiesto anche la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori di queste app, sottolineando che Apple e Google avrebbero incassato milioni di dollari nonostante le loro politiche vietino contenuti pornografici, abusivi o molesti. La legge della California proibisce esplicitamente il supporto a servizi che producono materiale pornografico deepfake, e l’ufficio del procuratore ha già avviato azioni legali contro sedici siti web dedicati a pratiche simili.
Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già eliminato centinaia di app con funzioni di “nudificazione”, comprese le cinque segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Apple, d’altra parte, non ha fornito commenti ufficiali in merito alla questione.
Chiu ha definito la situazione “assolutamente scioccante” per l’ampiezza del fenomeno e le sue conseguenze sulle vittime, che possono variare da una reputazione danneggiata a ripercussioni sulla salute mentale. Il procuratore ha espresso fiducia che le aziende rimuoveranno spontaneamente le app incriminate e rafforzeranno i controlli, senza escludere la possibilità di ulteriori azioni legali.
Questa iniziativa di San Francisco si inserisce in un contesto più ampio di crescente preoccupazione riguardo all’uso dell’intelligenza artificiale per creare contenuti non consensuali, un problema che solleva importanti questioni etiche e legali. La richiesta di Chiu rappresenta un passo significativo nella lotta contro l’abuso della tecnologia e la protezione delle vittime di tali pratiche.
