Ricercatori di Microsoft presentano Table-GPT Elevare i modelli di linguaggio per eccellere nella comprensione delle tabelle bidimensionali e nei compiti.

Ricercatori Microsoft presentano Table-GPT l'evoluzione dei modelli di linguaggio per una migliore comprensione delle tabelle bidimensionali e delle attività ad esse correlate.

“`html

Con gli sviluppi recenti nel campo dell’intelligenza artificiale, i Grandi Modelli di Linguaggio, tra cui GPT e LLaMa, mostrano continuamente prestazioni notevoli su un’ampia gamma di compiti di linguaggio naturale. Questi modelli si sono dimostrati efficaci in vari ambiti e hanno spinto l’elaborazione del linguaggio naturale ad un livello più avanzato. I modelli di linguaggio sono capaci di seguire le indicazioni degli esseri umani e svolgere diverse mansioni. Tuttavia, si presenta un inconveniente: questi modelli hanno difficoltà con i compiti che richiedono la conoscenza delle tabelle. Ciò accade perché il loro addestramento principale riguarda testi unidimensionali di linguaggio naturale, mentre le tabelle sono strutture bidimensionali, il che comporta questa limitazione.

Per affrontare questo problema, un team di ricercatori ha proposto il concetto di “table-tuning”, un modo innovativo per alleviare questa problematica. Questo metodo prevede l’ulteriore addestramento o l’ottimizzazione dei modelli di linguaggio preesistenti, come GPT-3.5 e ChatGPT, utilizzando una vasta gamma di compiti legati alle tabelle derivati da tabelle reali. L’obiettivo principale del “table-tuning” è migliorare la capacità di questi modelli di linguaggio di comprendere e manipolare le tabelle.

I modelli Table-GPT, generati tramite “table-tuning”, mostrano capacità migliorate nella comprensione delle tabelle. Questi modelli superano costantemente i modelli standard GPT-3.5 e ChatGPT in una vasta gamma di compiti basati su tabelle. Ciò significa che possono interpretare e manipolare i dati tabulari in modo più accurato. I modelli Table-GPT mantengono un alto grado di generalizzabilità anche se sono specializzati in compiti relativi alle tabelle. Sono in grado di adattarsi a nuove attività che coinvolgono le tabelle perché possono reagire a una serie di indicazioni umane con efficacia. Questa flessibilità è paragonabile alla capacità di ChatGPT di gestire una varietà di compiti di linguaggio naturale e all’originale GPT-3.5.

• AI comprensibile Svelando i modelli della scatola nera
• Aprire una strada nella generazione di visione e linguaggio intrecciati svelando il potere dei generativi Vokens con MiniGPT-5
• Come creare un’app di ricerca multimodale con Chroma?

Sono state riassunte le seguenti principali contribuzioni:

1. Paradigma del “table-tuning”: È stato introdotto il paradigma del “table-tuning”, che prevede l’addestramento dei modelli di linguaggio con lo scopo specifico di migliorare la loro efficienza nei compiti che coinvolgono le tabelle. Utilizza una varietà di compiti basati su tabelle che sono sintetizzati da tabelle reali utilizzando una metodologia di sintesi e ampliamento.

1. Approcci di aumento dei dati: Sono stati sviluppati approcci di aumento dei dati a livello di compito, a livello di tabella, a livello di istruzioni e a livello di completamento. Questi metodi sono essenziali per mantenere l’alta generalizzabilità di Table-GPT e prevenire l’overfitting. Rafforzano il modello aggiungendo valore all’insieme di addestramento.

1. Prestazioni nei compiti relativi alle tabelle: Table-GPT mostra capacità eccezionali nei compiti basati su tabelle sia in scenari di zero-shot che di few-shot. Ciò indica che il modello può svolgere questi compiti molto bene, anche con poca formazione o esempi specializzati.

1. L’adattabilità di Table-GPT lo rende adatto ad essere utilizzato come modello di base per le tabelle. Quando si tratta di ottimizzazioni di singoli compiti successivi, come l’addestramento specifico del compito e l’elaborazione delle direttive, può essere un punto di partenza migliore rispetto a GPT originale. Ciò dimostra quanto sia utile per una varietà di scopi al di fuori del lavoro con le tabelle.

In sintesi, il paradigma suggerito del “table-tuning” fornisce un modo per superare la difficoltà di insegnare ai modelli di linguaggio come utilizzare le tabelle. Migliora la loro comprensione delle strutture di dati bidimensionali e fornisce loro gli strumenti necessari per avere successo in una vasta gamma di compiti relativi alle tabelle, sia noti che sconosciuti.

“`