Professore del MIT al Congresso Siamo ad un punto di svolta con l’Intelligenza Artificiale

MIT professor at Congress We're at a turning point with Artificial Intelligence.

Aleksander Mądry sollecita i legislatori a fare domande rigorose su come gli strumenti di intelligenza artificiale vengono utilizzati dalle società.

Il governo non dovrebbe “abdicare” alle sue responsabilità e lasciare il futuro percorso dell’intelligenza artificiale unicamente alle grandi aziende tecnologiche, ha detto Aleksander Mądry, professore di informatica presso il Cadence Design Systems del MIT e direttore del MIT Center for Deployable Machine Learning, a una commissione del Congresso mercoledì.

Invece, Mądry ha affermato, il governo dovrebbe fare domande sullo scopo e la spiegabilità degli algoritmi utilizzati dalle aziende, come precursore della regolamentazione, che ha descritto come “uno strumento importante” per garantire che l’AI sia coerente con gli obiettivi della società. Se il governo non comincia a fare domande, allora “sono estremamente preoccupato” per il futuro dell’AI, ha affermato Mądry in risposta a una domanda del rappresentante Gerald Connolly.

• Comprendere il nostro posto nell’universo
• Rendere le valutazioni immobiliari semplici come scattare una foto.
• 3 Domande Jacob Andreas sui grandi modelli linguistici

Mądry, un esperto leader in spiegabilità e AI, stava testimoniando in un’audizione dal titolo “Avanzamenti nell’AI: Siamo pronti per una rivoluzione tecnologica?” davanti alla sottocommissione della Camera sulla sicurezza informatica, l’informatica e l’innovazione governativa, una commissione della commissione per la riforma e la vigilanza del governo della Camera. Gli altri testimoni all’udienza erano l’ex CEO di Google Eric Schmidt, il vicepresidente di IBM Scott Crowder e la direttrice senior della ricerca del Center for AI and Digital Policy Merve Hickok.

Nelle sue osservazioni introduttive, la presidente della sottocommissione, la rappresentante Nancy Mace, ha citato il libro “The Age of AI: And Our Human Future” di Schmidt, Henry Kissinger e Dan Huttenlocher, il decano del MIT Schwarzman College of Computing. Ha anche richiamato l’attenzione su un editoriale del 3 marzo sul The Wall Street Journal dei tre autori che riassumeva il libro mentre discutevano di ChatGPT. Mace ha detto che le sue osservazioni introduttive formali erano state interamente scritte da ChatGPT.

Nelle sue osservazioni preparate, Mądry ha sollevato tre punti generali. In primo luogo, ha osservato che l’AI non è più una questione di fantascienza o confinata ai laboratori di ricerca. È nel mondo, dove può portare enormi benefici ma anche rischi.

In secondo luogo, ha detto che l’AI ci espone a “interazioni che vanno contro la nostra intuizione”. Ha detto che poiché gli strumenti AI come ChatGPT imitano la comunicazione umana, le persone sono troppo inclini a credere acriticamente a ciò che tali grandi modelli di linguaggio producono. Nel peggiore dei casi, Mądry ha avvertito, le capacità analitiche umane si atrofizzeranno. Ha anche detto che sarebbe un errore regolamentare l’AI come se fosse umana, ad esempio chiedendo all’AI di spiegare il suo ragionamento e assumendo che le risposte risultanti siano credibili.

Infine, ha detto che troppa poca attenzione è stata prestata ai problemi che risultano dalla natura della “catena di approvvigionamento” dell’AI, ovvero il modo in cui i sistemi AI sono costruiti l’uno sopra l’altro. Alla base ci sono sistemi generali come ChatGPT, che possono essere sviluppati solo da poche aziende perché sono così costosi e complessi da costruire. Sopra tali sistemi sono stratificati molti sistemi AI progettati per gestire una particolare attività, ad esempio capire chi un’azienda dovrebbe assumere.

Mądry ha detto che questa stratificazione sollevava diverse preoccupazioni “rilevanti per le politiche”. In primo luogo, l’intero sistema dell’AI è soggetto a qualsiasi vulnerabilità o pregiudizio presenti nel grande sistema alla sua base e dipende dal lavoro di poche grandi aziende. In secondo luogo, l’interazione dei sistemi AI non è ben compresa da un punto di vista tecnico, rendendo i risultati dell’AI ancora più difficili da prevedere o spiegare e rendendo gli strumenti difficili da “auditare”. Infine, la miscela di strumenti AI rende difficile sapere a chi attribuire la responsabilità quando si verifica un problema, chi dovrebbe essere legalmente responsabile e chi dovrebbe affrontare la questione.

Nel materiale scritto presentato alla sottocommissione, Mądry ha concluso: “La tecnologia AI non è particolarmente adatta per la distribuzione attraverso catene di approvvigionamento complesse”, anche se è esattamente così che viene distribuita.

Mądry ha concluso la sua testimonianza chiedendo al Congresso di indagare sulle questioni dell’AI e di essere pronto ad agire. “Siamo a un punto di svolta per ciò che l’AI porterà in futuro. Cogliere questa opportunità significa discutere il ruolo dell’AI, cosa esattamente vogliamo che faccia per noi e come garantire che ci benefichi tutti. Questa sarà una conversazione difficile ma dobbiamo averla e dobbiamo farlo adesso”, ha detto alla sottocommissione.

La testimonianza di tutti i testimoni dell’udienza e un video dell’udienza, che è durata circa due ore, sono disponibili online.