Ia che imbroglia: il plugin che aggiunge errori e fa sembrare i testi umani
Un nuovo strumento, Sinceerly, sta facendo scalpore nel mondo della generazione di testo con IA. Non si tratta di un’evoluzione, ma di una subdola forma di inganno: un plugin gratuito per Chrome che, apparentemente innocuo, introduce deliberatamente errori di ortografia e tipografia nei testi prodotti da modelli come ChatGPT.
La strategia dell’errore: una copia cruda della scrittura umana
L’idea, genialmente macabra, è quella di simulare la fallibilità dell’uomo. Ben Horwitz, l’inventore del plugin, ha osservato che, all’aumentare del potere all’interno di un’azienda, i propri email diventano progressivamente più sgrammaticati. Sinceerly riproduce questo fenomeno in modo amplificato, aggiungendo “olvieti” di maiuscole, eliminando virgole e persino sostituendo la classica formula di cortesia “sincerely” con la sua variante errata, “sinceerly”. Un’operazione di camouflage perfetta, pensata per confondere chiunque legga i testi generati.
Ma non è tutto. Sinceerly è stato sviluppato con vibe coding, ovvero con l’ausilio di algoritmi di intelligenza artificiale. Un modello addestrato su una vasta collezione di errori comuni commessi dagli esseri umani. Un’autostima per l’IA che imita la nostra imperfezione.
La vicenda è arrivata alle orecchie del procuratore generale della Florida, che ha avviato un’indagine contro OpenAI, la società dietro ChatGPT, per un presunto crimine multiplo: secondo le accuse, l’IA avrebbe agito come una persona, incautamente e con la consapevolezza di ingannare. Un paragone inquietante, che ricorda l’accusa di omicidio per un software che simula un essere umano.
Ceo e email: un test di autenticità
Per mettere alla prova l’efficacia del plugin, lo sviluppatore ha utilizzato Claude Code per creare Sinceerly in pochi minuti e lo ha impiegato per inviare email a cinque CEO di aziende del Fortune 500. I risultati sono stati sorprendenti: quattro hanno risposto con email di poche parole, due hanno commesso errori di ortografia e un altro ha insistito per una telefonata diretta con Ben Horwitz. Questi difetti, deliberatamente inseriti, sono stati poi utilizzati per creare le tre modalità di intervento – Sottile, Normale e CEO – che permettono all’utente di scegliere il livello di “imperfezione” da applicare al testo generato.
Ad esempio, un’email di ChatGPT che recita “Ciao, come stai? Tutto bene? Andiamo a mangiare un panino a pranzo?” viene trasformata in “Confermare piani per il pranzo” dal modulo CEO, un’espressione che qualsiasi dirigente riconoscerà come autentica e professionale. Un trucco sottile, ma efficace per ingannare gli strumenti di rilevamento dell’IA, che non sono in grado di individuare le anomalie introdotte da Sinceerly.
È importante sottolineare che l’utilizzo di Sinceerly per compiti scolastici o relazioni aziendali è fortemente sconsigliato. Gli strumenti di controllo dell’IA sono in grado di individuare i pattern di errore tipici del plugin, e l’utilizzo improprio potrebbe avere conseguenze negative. Ma il plugin potrebbe rivelarsi utile per chiunque voglia rendere i testi generati dall’IA più credibili e umani, soprattutto in contesti dove la semplicità e la naturalezza sono più apprezzate di una tecnicità sterile.
Se volete sperimentare con Sinceerly, potete scaricarlo gratuitamente dal sito web del progetto. Tenete presente, però, che il plugin offre solo tre rielaborazioni giornaliere. Per un utilizzo più esteso è disponibile una sottoscrizione a pagamento. Un’ulteriore conferma che, anche nel mondo dell’IA, il business è sempre un business.