Co-Founder di OpenAI fa All-In su TypeSafe (insane)

Per anni, l'onda dell'IA generativa è stata dominata da modelli focalizzati sulla conversazione e la generazione di testo libero, culminando in strumenti come ChatGPT. Nonostante le promesse di automazione, la realtà è che l'integrazione di questi modelli nei workflow software si è rivelata complessa, lenta e costosa, richiedendo spesso parsificazione e validazione degli output, oltre a un margine di errore non trascurabile. La promessa di Diogo Almeida di TypeSafe AI va nella direzione opposta: abbandonare la flessibilità (e i rischi) delle stringhe testuali per concentrarsi su output strutturati e "type-safe", simili a chiamate di funzione probabilistiche.

Jev, il loro primo modello System One, promette velocità ed efficienza su un altro pianeta, rendendo l'IA adatta per decisioni in tempo reale all'interno di applicazioni software, piuttosto che per sostituire il reparto customer care. Se le affermazioni di TypeSafe AI sulla velocità (70ms-500ms) e sui costi (output "gratis") saranno confermate su larga scala, potremmo assistere a un cambio di paradigma, spostando il focus dall'"intelligenza conversazionale" all'"intelligenza decisionale" applicata.

La sfida tecnica è stata la creazione di un nuovo stack e un nuovo metodo di training (RLCD) per garantire che l'IA prenda decisioni calibrate con probabilità affidabili, eliminando le "allucinazioni" tipiche degli LLM. Questo approccio, che TypeSafe AI chiama "System One", è pensato per essere un "fuzzy if-statement" per il software: dati non strutturati in ingresso, decisioni probabilistiche strutturate in uscita. L'assenza di generazione di testo libero e la natura type-safe degli output significano che Jev non può sbagliare il formato o il tipo di dato restituito, riducendo drasticamente la necessità di validazioni post-generazione.

Sebbene questo limiti l'uso per compiti creativi o conversazionali, apre scenari inediti per l'automazione di processi decisionali complessi all'interno di applicazioni esistenti, dal routing di dati alla gestione di workflow in tempo reale. Il successo di questa strategia dipenderà dalla capacità di TypeSafe AI di dimostrare che questa specificità non ne limiti eccessivamente l'applicabilità generale, e dalla scalabilità dei loro costi "troppo economici per essere misurati".