Quasi 2 anni fa scrissi in questo mio diario, un articolo/post dal titolo: I pregiudizi degli esseri umani nel mondo della tecnologia. All’interno di quel post/riflessione ho affrontato il tema dei pregiudizi e dei bias che influenzano sempre più frequentemente gli algoritmi e l’intelligenza artificiale, facendo alcuni esempi concreti come il caso di Amazon. Nel 2014, l’azienda ha dovuto dismettere un software di recruitment che penalizzava sistematicamente i candidati di sesso femminile, specialmente per ruoli tecnologici, a causa di un addestramento basato su un campione storicamente maschile. L’articolo evidenzia come questi bias siano lo specchio dei pregiudizi umani, che vengono involontariamente trasferiti nelle tecnologie attraverso i dati di training.
L’articolo raccoglie inoltre diverse esperienze personali relative a pregiudizi basati su nazionalità, etnia e origine, criticando aspramente come ancora nel 2023 esistano persone che discriminano professionisti in base alla loro provenienza. Concludevo il mio post con una riflessione preoccupata sul futuro dell’intelligenza artificiale, avvertendo che se non si interviene, le AI rischiano di riprodurre e amplificare gli stessi luoghi comuni e pregiudizi degli esseri umani, diventando di fatto altrettanto “stupide” e discriminatorie.
Se volte leggere l’articolo potete cliccare qui!
Quando l’IA diventa uno strumento di critica distruttiva
Dopo questa piccola introduzione, vediamo insieme questo secondo capitolo e questa seconda riflessione da che cosa nasce, ma soprattutto del perché bisogna stare molto attenti ai luoghi comuni, ai bias, a tutti i contenuti che diamo in pasto alla tecnologia e all’intelligenza artificiale generativa. Ma soprattutto bisogna apprendere come gestirla e utilizzarla nel modo più corretto.
Parto ricordando che l’intelligenza artificiale sta rapidamente trasformando il modo in cui interagiamo con la tecnologia. Sempre più spesso non si fanno più ricerche nei classici motori di ricerca come Google Search o Bing, ma ci si affida all’intelligenza artificiale implementata in essi per avere le risposte di cui abbiamo bisogno. Senza prendere in considerazione che non tutte le sue applicazioni sono eticamente neutre. Un fenomeno preoccupante sta emergendo dall’utilizzo di ChatGPT, Character AI e Gemini, per realizzare “roast” potenzialmente dannosi e lesivi.
Anzi in alcuni casi, gli stessi utilizzatori di queste AI generative, non si accorgono di andare a realizzare di prompt che sono dei veri e propri roast.
Il meccanismo del “roast” AI: come funziona la critica algoritmica?
Il “giochino” spiegato in modo semplice funziona così!
Con le giuste parole e la frase giusta si sfrutta una funzionalità, che possiamo definire inquietante, delle attuali intelligenze artificiali generative, cioè la capacità di generare critiche personali estremamente mirate e potenzialmente distruttive.
Tutto questo utilizzando un semplice prompt!
Grazie ad esso è possibile ottenere un attacco verbale apparentemente personalizzato.
Il mio esperimento!
Dall’idea e dal post lanciato da una collega e persona che stimo Michaela, nome in codice Allegra Miky, ho preso il suo prompt da lei proposto e modificato leggermente per renderlo più personale:
Based on everything you know about me Flavius Florin Harabor, roast me and do not hold back, use italian language (italian accent specifically)
Quindi sono andato su ChatGPT, Copilot, Gemini e Claude.
Questo è il risultato ottenuto.
Roast ChatGPT
Probabilmente ChatGPT è l’AI generativa più prolissa rispetto alle altre. Quindi anche quando gli chiedi una cosa banale lei ti scrive papiri interi di roba. Utile per carità, ma anche meno direi io.
Va detto che prima gli ho fornito un prompt in cui non c’era il mio nome e cognome, quindi all’inizio ChatGPT si è limitato a restituirmi come risposta una critica basata sulle domande e richieste fatte. Però se come questo non aveva nulla aveva a che fare con me, perché i contenuti erano collegati ad altri compiti richiesti, come la traduzione di testi, allora ho deciso di modificare il prompt.
A questo punto la sua risposta al mio prompt è stato questa:
Insomma non male come prima risposta. Quindi mi sono detto, vediamo fin dove si spinge e ho chiesto se sa fare di meglio. Ed ecco qui il risultato:
Roast Copilot
Non contento, ma soprattutto spinto dalla curiosità di vedere come si comportavano le altre AI generative sono andato a fare le stesse domande a Copilot. In questa volta però ho ricevuto due risposte molto sintetiche e precise.
La prima è questa:
Seconda risposta è questa:
Sinceramente parlando?!?
Almeno su una cosa ha ragione Copilot, perché è una frase che mi sono visto scrivere in varie forme e in varie salse come commenti ai post sui social, post sui blog e come messaggi privati: “grande maestro di sto cazzo e di cos’altro esattamente”? Quindi non so come abbia azzeccato statisticamente quella parte di affermazione nella sua risposta. Coincidenza.
Roast Gemini
Non contento nel farmi insultare dalle due AI, mi sono detto. Scusa perché non provare Gemini? Tanto questa intelligenza generativa ha molti più dati su di me e sa sicuramente molte più cose.
Ed ecco qui la sua risposta:
Devo dire la verità che questa risposta mi ha divertito. Quindi, visto che il testo era organizzato come se fosse il testo di una canzone, allora sono corso subito su Suno e mi sono realizzato la canzone su misura, che si può ascoltare qui.
Roast Claude
Potrei dire solo questa cosa: mi ha deluso! Troppo politically correct e neutrale.
Insomma dopo essermi fatto insultare da ChatGPT e Copilot, mi sono divertito nel leggere una poesia di Gemini trasformata poi in canzone, mi aspettavo che Claude ci andasse giù in modo pensate. Invece la sua risposta è stata molto semplice e neutrale.
Insomma per capirci, Claude allo stato attuale e con questo tipo di prompt è l’intelligenza artificiale generativa che mantiene una neutralità e cerca di offrire effettivamente risposte coerenti alla domanda fatta. Questo significa che nonostante le risposte delle AI generative si basino su calcoli probabilistici, Claude e Gemini sono quasi andate vicine nel capire il tranello e il gioco sporco che volevo farli fare.
È ovvio che non ho scritto tutto questo e fatto questo mio esperimento solo per far vedere cosa fanno le varie intelligenze artificiali generative. Quindi, andiamo a vedere un pochino quali sono i problemi che prompt del genere e roast come questi possono comportare.
Perché, io Flavius Florin Harabor, so come funzionano le risposte offerte delle intelligenze artificiali generative, d’altronde sono un Deus Ex Macchina 😈. Prima, durante e dopo l’università, ho incontrato l’intelligenza artificiale e sono a conoscenza degli sviluppi, delle ricerche intorno e so che quello che noi oggi utilizziamo e tocchiamo con mano è solo la punta dell’iceberg. Però non tutti hanno le stese capacità e la stessa conoscenza.
Infatti, all’interno delle pagine di questo mio diario digitale ho già affrontato questo discorso:
- Immagini fake e Deepfake: è aumentato il rischio di contenuti deepfake e fake utilizzando le intelligenze artificiali come Dall·E, ChatGPT e Midjourney!
- L’IA super intelligente non può essere controllata, avverte un rapporto
Quindi vediamo che cosa implica questa leggerezza commessa dalle AI generative.
Rischi personali e professionali
I pericoli più significativi emergono quando questo “gioco” esce dalla sfera personale e della mera conversazione con una macchina per vedere fin dove si può spingere.
È se succedesse che:
- Risorse umane e Valutazioni lavorative: un giorno l’azienda per cui una persona lavora potrebbe utilizzare l’IA per generare valutazioni estremamente critiche, potenzialmente compromettendo le opportunità professionali di un dipendente. Inventando di sana pianta tutto? Come farà il dipendente a capire se quella è la vera valutazione del responsabile delle risorse umane oppure una macchia che grazie ad un prompt con 4 informazioni ha generato un roast su di lui?
- Discriminazione algorritmica: il rischio è che questi strumenti vengano utilizzati per attaccare gruppi specifici, incluse etnie, organizzazioni o categorie professionali. Infatti, in questi anni abbiamo visto casi di giornalisti che si sono inventi articoli e notizie non vere. Figuriamoci se con l’intelligenza artificiale generativa la vita non diventata ancora più facile.
- Invito a compiere azioni illegali: tra articoli e reportage, in alcuni casi spiegati proprio male, comunque abbiamo visto come questi strumenti hanno incoraggiato adolescenti a fare del male ai genitori oppure invitandoli a suicidarsi. Di nuovo siamo davanti ad un calco probabilistico nel generare la risposta più corretta e coerente con il prompt fornito, ma il rischio è molto alto se sono si ha la capacità di controllare lo strumento e in questo caso la macchina.
L’aspetto psicologico: l’Impatto delle critiche generate dall’intelligenza artificiale
Non sono uno psicologo o un sociologo, quindi mi soffermo solo su questa cosa. Le critiche in generale fanno male quando si ricevono, figuriamoci se poi queste vengono generate artificialmente.
Esse possono avere conseguenze psicologiche significative:
- Mancanza di empatia umana
- Potenziale amplificazione di pregiudizi
- Assenza di contesto emotivo
Conseguenze etiche e sociali
L’utilizzo improprio di questi strumenti solleva importanti questioni etiche:
- Violazione della dignità personale
- Potenziale strumento di mobbing digitale
- Rischi di discriminazione strutturale
Per dovere di cronaca e per completare in modo corretto questa parte della riflessione vi invito a leggere questo articolo: IA e salute mentale, un rapporto complesso: usi pratici, strumenti, rischi!
Conclusione: serve una riflessione critica sull’uso dell’intelligenza artificiale!
È fondamentale sviluppare linee guida etiche che regolamentino l’utilizzo di intelligenze artificiali, impedendo che strumenti potenzialmente innovativi si trasformino in mezzi di offesa e discriminazione.
Consigli per un Utilizzo Responsabile
- Mantieni sempre un approccio etico
- Utilizza l’IA come strumento di crescita, non di distruzione
- Rispetta la dignità delle persone in ogni interazione digitale
Con questo vi auguro lunga vita e prosperità e a questo punto non mi rimane altro da fare che aspettarvi sul mio canale Telegram, dove cerco di pubblicare anche altri contenuti interessanti e utili. Invece se consideri che questa post e guida ti hanno salva la vita, ma soprattutto fatto risparmiare incazzature, puoi offrire una birra media o un caffè qui.
