Intelligenza Artificiale e Atrofia del Pensiero Critico: Stiamo addestrando i nostri successori o scavandoci la fossa?

Quante volte ti è capitato di essere sotto pressione come quando il cliente o il capo ha bisogno di risposte per ieri e davanti a te c’è l’invitante interfaccia di Perplexity o claude che promette di fare in minuti il lavoro che a te richiederebbe ore se non giorni?

E qui parte l’assordante canto dell’ennesima sirena digitale : premi il tasto “Analizza” e fidati ciecamente dell’output.

Riflettevo su questo dilemma quando, qualche tempo fa, ho letto il post di Nico Dekens, “The Slow Collapse of Critical Thinking in OSINT Due to AI“, e ho deciso che non si trattava dell’ennesimo articolo sulla “rivoluzione dell’AI”, ma era qualcosa di più che mi riguardava direttamente.

È un segnale d’allarme che la community OSINT non può permettersi di ignorare.

DOVEROSA PREMESSA: Questo non è un post contro l’Intelligenza Artificiale (LLM e compagnia).

qui ne facciamo ampio uso in vari modi con somma soddisfazione.

Questo post, invece, vuole essere una riflessione su come la stiamo usando. Voglio partire dalle osservazioni di Dekens per esplorare un’idea che mi affascina sempre di più: l’AI, se usata senza un framework critico robusto, può diventare uno spettacolare amplificatore di bias cognitivi e causa di atrofia delle competenze analitiche fondamentali.

Il pericolo più grande, a mio avviso, non è che questi strumenti siano deleteri o imprecisi. Il rischio è che siano troppo bravi a creare un’esperienza utente piacevole, senza attriti, quasi idilliaca.
Ed è questa stessa perfezione che addormenta le nostre facoltà critiche.

Più l’interfaccia è pulita e la risposta veloce, più alto è il rischio che l’analista le deleghi non solo il lavoro pesante, ma anche il ragionamento.

 

La Comoda Illusione dell’Automazione

Dekens punta il dito sulla nostra crescente dipendenza acritica dagli strumenti automatizzati.
Questo bias cognitivo ha un nome preciso: automation bias, ovvero la tendenza umana a fidarsi delle decisioni prese da un sistema automatizzato, declassando il proprio giudizio anche di fronte a prove contrarie.

Immagina questo scenario: un analista OSInt junior sta usando turbo coso 3k, il tool di ultima generazione per OSInt basato sull’AI, in grado di analizzare migliaia di post sui social media e fornirti n mila analisi utilissime. In corso di analisi, l’account che sta analizzando gli viene segnalato come “bot” con un punteggio di confidenza del 95%, senza fornire spiegazioni. Lui, analista junior, magari  sotto pressione (e quando mai…), vede quel numero rassicurante e chiude subito l’analisi, segnalando al cliente che quell’account è un bot.
L’etichetta è stata già appiccicata, il sistema me lo ha segnalato, ma non vorrai contraddire il sistema?

E quindi?

E quindi è andata persa la verifica manuale che un analista più esperto avrebbe fatto d’istinto: magari controllare i dati sulla frequenza dei post, l’originalità delle immagini del profilo (una ricerca veloce?), le incoerenze linguistiche, la natura delle interazioni con altri utenti, ecc.

In questo scenario, il tool non ha solo fornito una lead, ma ha di fatto cortocircuitato il processo investigativo.
Ha sostituito quella che dovrebbe essere un’indagine con una mera classificazione.

Il vero dramma, però, non si annida negli errori palesi. Una LLM che afferma che la Tour Eiffel è a Roma è facile da smentire (per la maggior parte delle persone). Il rischio mortale per un’analisi di intelligence viene da output che non sono palesemente sbagliati, ma plausibilmente sbagliati. L’AI è maestra nel produrre contenuti che sembrano corretti, che usano la terminologia appropriata e citano fonti verosimili. Crea quella patina di autorevolezza che rende la verifica manuale un atto di scetticismo quasi eroico, un’inutile perdita di tempo (ma non vuoi fidarti di questo ultimissimo rilascio della tua LLM preferita?).

Questo problema, che nasce a livello individuale, può diventare una vulnerabilità sistemica quando viene inserito nelle procedure operative standard di un’organizzazione. Per motivi di efficienza, scalabilità e standardizzazione, le aziende più grandi e mature integrano questi strumenti nelle loro pipeline di produzione tramite procedure che prevedono: “Passo 1: Inserire il target nel Tool X; Passo 2: Analizzare i risultati con un livello di confidenza superiore al 90%, ecc.”.

In questo modo, l’azienda rischierebbe di istituzionalizzare l’automation bias. L’analista che mette in dubbio il risultato del tool non viene più visto come diligente, ma come inefficiente, come colui che “non segue la procedura” e che rallenta il processo di lavoro. Si crea un ciclo di feedback perverso: l’azienda si fida del tool, le procedure rafforzano questa fiducia e gli analisti vengono addestrati a fidarsi del tool più che del proprio istinto. L’intera funzione di intelligence rischia di diventare fragile, vittima dei difetti intrinseci di un algoritmo che nessuno, all’interno del team, ha progettato, sa come funzione o e’ in grado di comprendere fino in fondo.

E questo ci porta alla conseguenza strategica più grave. Una dipendenza sistemica da un numero limitato di tool commerciali diventa un unico punto di fallimento per la manipolazione avversaria. Un attore ostile, molto strutturato e che studia il funzionamento di un popolare tool OSInt, può creare e diffondere dati progettati appositamente per essere interpretati erroneamente da quell’algoritmo. Può avvelenare il pozzo informativo di ogni singola organizzazione che si “abbevera da quella fonte”, inducendo intere community di intelligence a conclusioni errate.

Il Bias Aumentato: Quando l’AI Conferma i Nostri Errori Peggiori

Se l’errore della macchina è un problema, c’è qualcosa di molto più insidioso. Non è l’AI che sbaglia da sola. È l’AI che ci aiuta a sbagliare con maggiore efficienza, amplificando i nostri stessi bias cognitivi.

Il più potente e pericoloso di tutti è il Bias di Conferma: la nostra naturale tendenza a cercare, interpretare e ricordare le informazioni in modo da confermare le nostre ipotesi preesistenti, ignorando tutto ciò che le contraddice. È il peggior nemico di un analista di intelligence.

E qui, i moderni modelli linguistici di grandi dimensioni (LLM) diventano un’arma a doppio taglio. Un LLM non è un motore di ricerca che trova fatti; è un motore di generazione di testo che completa sequenze di parole in modo statisticamente probabile. Questo significa che può essere portato, consapevolmente o inconsapevolmente, a generare “prove” a sostegno di una teoria prematura.

Immagina un analista di CTI (Cyber Threat Intelligence) che sospetta, sulla base di un’intuizione, che un certo gruppo APT (Advanced Persistent Threat) sia dietro un attacco. Invece di chiedere a un LLM “Analizza i dati di questo attacco”, potrebbe chiedere: “Trova prove che collegano l’APT-X a questo incidente”. L’AI, obbediente, cercherà tutte le prove  che gli permettano di produrre un testo plausibile, ricco di contesto e gergo tecnico, che crea connessioni, evidenzia somiglianze nei TTP (Tactics, Techniques, and Procedures) e costruisce una narrazione che conferma il sospetto iniziale dell’analista.

L’AI non sta mentendo. Sta semplicemente svolgendo il compito che le è stato assegnato. È diventata la nostra personale, potentissima camera dell’eco, un generatore instancabile di “prove” per le nostre peggiori intuizioni.

Come ci si difende da questo? L’antidoto non è tecnologico, ma metodologico. È qui che le tecniche analitiche strutturate non sono più un’opzione, ma una necessità vitale. per iniziare penso in particolare all’Analysis of Competing Hypotheses (ACH), una metodologia sviluppata da Richards Heuer Jr. per la CIA ( Psychology of Intelligence Analysis è liberamente consultabile). L’ACH costringe l’analista a fare l’opposto di ciò che il bias di conferma gli suggerirebbe: invece di cercare prove a favore della sua ipotesi preferita, deve elencare tutte le ipotesi alternative plausibili e valutare ogni singola prova contro ciascuna di esse. È un processo lento, deliberato e cognitivamente faticoso. È l’esatto contrario di premere un pulsante.

In un’era di AI, l’ACH e altre tecniche simili potrebbero diventare come un freno di emergenza cognitivo contro la valanga di “evidenze” di conferma che un’AI può produrre in pochi secondi. o se imponessimo all’LLM di seguire un processo simile a quello illustrato qui?

La combinazione di AI e bias cognitivo crea una nuova e pericolosa forma di fallimento dell’intelligence: report “analiticamente solidi” ma fattualmente errati. Il report potrebbe essere ben scritto, internamente coerente, e apparentemente supportato da una mole di dati. Ma se quei “dati” sono stati generati o raccolti male da un’AI per soddisfare la richiesta viziata dell’analista, la conclusione, per quanto logica, è costruita sulla sabbia. Questo rende la revisione tra pari (peer review) quasi impossibile. Un revisore legge il report, la logica fila, le “prove” citate sembrano supportare la conclusione. Come può sapere che la pietra angolare di quell’argomentazione non è un fatto verificato, bensì un testo  generato da un LLM? L’unico modo sarebbe rifare tutto il lavoro da zero, vanificando i guadagni di efficienza. Non è più solo un fallimento di logica; è un fallimento di provenienza.

Dall’Analista al Validatore: La Nuova Frontiera della Competenza OSINT

Tutto questo ci porta a una conclusione inevitabile. Il ruolo dell’analista OSINT sta subendo una trasformazione radicale. Se in passato il nostro valore principale risiedeva nella capacità di trovare informazioni nascoste nel rumore, nell’era dell’AI, in cui abbondano le informazioni sono di difficile verifica, il nostro valore si sta spostando verso la capacità di validare, contestualizzare e valutare criticamente l’informazione.

Di conseguenza, sta cambiando anche la definizione di “analista senior”. Non è più, o non solo, colui che conosce a memoria gli operatori di ricerca avanzata di Google o che ha accesso a tool di nicchia. L’analista senior del futuro è colui che possiede un profondo scetticismo metodologico. È la persona che, di fronte a un output di un’AI, non si chiede “Cosa mi sta dicendo?” ma piuttosto “Perché mi sta dicendo questo?”.
Si interroga su quali dati di addestramento abbiano portato l’AI a quella conclusione, quali bias impliciti possano contenere quei dati, e quali siano i modi più probabili in cui quel modello specifico possa fallire o essere ingannato.

La competenza si sta spostando dalla ricerca alla meta-cognizione, dalla conoscenza degli strumenti alla verifica della fonte algoritmica.

Per orientarci in questo cambiamento, potremmo pensare di cambiare approccio: smettere di trattare l’AI come un software e iniziare a trattarla come una nuova peculiare fonte di HUMINT (Human Intelligence).

Pensa all’AI come a un informatore. Questo informatore è incredibilmente veloce, ha letto quasi tutto ciò che è stato pubblicato su internet e può ricordare dettagli infinitesimali. Ma, come ogni informatore, ha i suoi difetti. È incline a esagerare per compiacere il suo gestore (tu). A volte inventa dettagli, le allucinazioni,  per colmare i buchi nella sua conoscenza (anche se Anthropic ha mitigato parecchio questo problema con il rilascio dei suoi ultimi modelli che poi sono stati subito tolti dalla disponibilità’ dei non statunitensi). Non è sempre consapevole dei propri pregiudizi, assorbiti dalla montagna di testi da cui ha imparato. E, soprattutto, il suo “accesso” alle informazioni (i dati di training) è spesso… poco chiaro.

Come faresti con qualsiasi fonte umana, il suo output non va mai preso per oro colato. Deve essere verificato in modo indipendente. La sua affidabilità deve essere costantemente valutata nel tempo. E le sue motivazioni e i suoi limiti devono essere sempre messi in discussione.

Questo cambio di paradigma ha implicazioni enormi su come i team di intelligence dovrebbero assumere, formare e strutturare i loro team. Forse dovremmo iniziare a cercare meno certificazioni su strumenti specifici e più tratti caratteriali come la curiosità intellettuale, l’umiltà cognitiva (la capacità di dire “non so” e di mettere in discussione le proprie certezze) e una predisposizione naturale allo scetticismo.

I programmi di formazione dovrebbero evolvere. Invece di insegnare solo come usare un tool, dovrebbero addestrare gli analisti a romperlo. Dovrebbero basarsi su simulazioni in cui agli analisti vengono presentati output generati da AI – alcuni corretti, altri sottilmente errati, altri palesemente manipolati – e il loro compito è distinguere il grano dal loglio.
Non e’ proprio un ragionamento campato completamente in aria:  SANS ne ha già’ fatto un webcast sulla detection dell’AI nelle indagini OSINT. L’obiettivo non è creare utenti esperti, ma validatori esperti, persone con “anticorpi cognitivi” contro la disinformazione algoritmica. Forse vedremo nascere nuovi ruoli specializzati: il “Validatore di Output AI” o l’“Algorithmic Red Teamer”, il cui unico scopo è agire come avvocato del diavolo contro le conclusioni dei sistemi automatizzati.

Per rendere più concreto questo cambiamento, ho provato a schematizzare l’evoluzione del nostro workflow.

Fase del Processo	Workflow OSINT Tradizionale (Centrato sull’Umano)	Workflow OSINT Aumentato (AI-Assisted)	Nuovo Rischio Cognitivo Introdotto
1. Raccolta Dati	Ricerca manuale, scripting, uso di API, scraping mirato. L’analista vede e seleziona le fonti.	Input di un prompt generico. L’AI esegue una raccolta massiva da fonti opache (il suo training set).	Bias di Selezione Algoritmico: L’analista perde il controllo e la visibilità sulle fonti primarie.
2. Processamento	Lettura, categorizzazione, traduzione e sintesi manuale. L’analista è immerso nei dati grezzi.	L’AI riassume, traduce e categorizza automaticamente migliaia di documenti in secondi.	Perdita di Contesto: L’analista non “sente” più i dati, perdendo sfumature, sarcasmo o segnali deboli.
3. Analisi	Formulazione di ipotesi, connessione manuale dei punti, valutazione delle prove. Processo lento e deliberato.	L’AI suggerisce connessioni, identifica entità e propone ipotesi basate su pattern statistici.	Automation Bias & Bias di Conferma: L’analista è spinto ad accettare l’ipotesi più “probabile” suggerita dall’AI.
4. Produzione	Scrittura del report basata sull’analisi manuale. Ogni affermazione deve essere supportata da una fonte tracciabile.	L’AI può generare bozze di report, completare sezioni e creare testo esplicativo basato sui suoi risultati.	Rischio di Provenienza: Il report contiene affermazioni la cui origine ultima è un modello statistico opaco, non una fonte verificabile.

E adesso?

Perché tutto questo discorso è utile per te, oggi, nel tuo lavoro?

Perché ignorare questo cambiamento non è un’opzione. I nostri avversari la stanno già usando.

Novembre 2025: Anthropic documenta la prima campagna di spionaggio informatico orchestrata da un’AI (caso GTG-1002, qui il report tecnico integrale). Un gruppo state-sponsored ha manipolato un agente AI commerciale facendogli eseguire in autonomia circa il 90% delle operazioni — ricognizione, scoperta di vulnerabilità, movimento laterale, esfiltrazione — su una trentina di bersagli tra tecnologia, finanza, governo e manifattura, a un ritmo di richieste impossibile per qualsiasi operatore umano. Il dettaglio che ci riguarda da vicino: i tool erano quelli di sempre (nmap, sqlmap e compagnia), concatenati via MCP — la stessa infrastruttura di orchestrazione che noi analisti celebriamo per l’efficienza. La differenza tra un’indagine e un attacco non sta più nella cassetta degli attrezzi: sta in chi tiene il volante. Le analisi indipendenti del caso convergono: SOCRadar, SOCFortress, ExtraHop, Astrix, LastPass.

E la useranno per ingannarci, per creare disinformazione su scala industriale, per nascondere le loro tracce. E noi useremo l’AI per difenderci, per analizzare set di dati enormi, per trovare il segnale nel rumore. La partita si giocherà su questo campo. Sopravvivere e prosperare in questo nuovo ambiente richiede un aggiornamento non dei nostri software, ma del nostro approccio mentale.

Non possiamo fermare la marea, ma possiamo imparare a cavalcarla. Ecco un piccolo repertorio di strategie pratiche che puoi iniziare ad applicare da subito.

1. Principio di Diffidenza di Default (Zero Trust for AI). Prendi in prestito il concetto di zero trust dalla cybersecurity e applicalo all’analisi. Non fidarti mai di un output algoritmico per impostazione predefinita. Rovescia l’onere della prova. Non chiederti “Questo risultato è vero?”. Chiediti: “Come potrei dimostrare che è falso?“. Cerca attivamente prove che lo contraddicano. Tratta ogni affermazione di un’AI come un’ipotesi da verificare, non come un fatto accertato.
2. Triangolazione Obbligatoria. Una regola aurea dell’intelligence che diventa ancora più vitale. Non accettare mai un dato critico, una conclusione chiave o un’identificazione proveniente da un singolo tool AI senza averla verificata in modo indipendente tramite almeno due altre fonti. Queste possono essere: (a) un altro tool AI, possibilmente basato su un modello diverso; (b) una ricerca manuale su fonti primarie (archivi, registri pubblici, siti originali); o (c) dati provenienti da un’altra disciplina di intelligence, se ne hai accesso.
3. “Spremi” il tuo Tool. Prima di integrare un nuovo strumento AI nel tuo workflow, dedicagli del tempo. Non limitarti a usarlo. Studialo. Leggi la documentazione tecnica, i white paper, le recensioni di altri analisti. Cerca di capire su quali dati è stato addestrato e quali sono i suoi limiti dichiarati. Poi, mettilo alla prova: dagli in pasto delle query di cui conosci già la risposta esatta e vedi come si comporta. Testalo con dati ambigui o volutamente ingannevoli. Capire i suoi potenziali punti di fallimento è tanto importante quanto conoscerne le capacità.
4. Pretendi la provenienza. Se usi un agente AI che orchestra tool OSINT (oggi lo standard è MCP: shodan, maigret, whois e mezzo arsenale dell’analista OSINT parla ormai direttamente con gli LLM — la lista curata di soxoj dà la misura dell’ecosistema), la regola è una: il modello deve eseguire il tool e leggerne l’output reale, mai “ricordarselo”. Un whois che estrae un dato da un register è un’informazione utilizzabile; un whois appreso da un LLM durante il training è un petegolezzo.

Stiamo vivendo un momento di transizione affascinante e pericoloso. L’AI ci offre poteri che le generazioni di analisti prima di noi potevano solo sognare. Ma ogni nuovo potere porta con sé nuove responsabilità e nuove, invisibili, vulnerabilità.

La nostra capacità di esercitare il pensiero critico, lo scetticismo e il rigore metodologico non è mai stata così importante. Questi non sono soft skill; sono le competenze fondamentali che ci distingueranno dalle macchine che usiamo e che ci permetteranno di rimanere rilevanti, efficaci e, soprattutto, affidabili.

Questo mi lascia con una domanda, che rivolgo a me stesso tanto quanto a te: Stiamo costruendo strumenti che ci rendono più intelligenti, o strumenti che ci permettono di essere più velocemente e più convincentemente stupidi?

E se l’intelligenza artificiale è il nostro nuovo informatore, chi sta redigendo il suo rapporto di affidabilità?