Vai al contenuto
AI.info

The Pulse

Anthropic rende open source le ottimizzazioni di Claude per i modelli biologici

Secondo Anthropic, Claude ha ottimizzato oltre 30 modelli open source usati nella ricerca biomolecolare, rendendoli in media circa quattro volte più veloci e riducendo l’uso di memoria per i grandi sistemi molecolari.

Anthropic rende open source le ottimizzazioni di Claude per i modelli biologici

AI.info Team ·

Secondo Anthropic, Claude ha ottimizzato oltre 30 modelli open source usati per la previsione delle strutture biomolecolari, la progettazione di proteine, la genomica e la modellazione del linguaggio delle proteine. Claude ha completato il lavoro in poco meno di quattro settimane, sotto la supervisione di due tecnici di Anthropic esperti di modellazione biomolecolare.

Le ottimizzazioni rendono i modelli in media circa quattro volte più veloci, con una perdita minima di precisione, e quasi due volte più veloci quando gli output devono restare identici. Il rilascio è rivolto ai ricercatori che dipendono da software open source per la biologia, ma potrebbero non avere accesso ai grandi cluster di GPU richiesti da molti flussi di lavoro attuali.

Ottimizzazioni open source, non nuovi modelli biologici

Anthropic non sta rilasciando un nuovo modello Claude né sostituendo i modelli biologici su cui si basa il lavoro. Sta invece rendendo open source il codice ottimizzato di oltre 30 modelli open source per la previsione delle strutture, la progettazione di proteine, la modellazione del linguaggio delle proteine e la genomica.

«Oggi rendiamo open source il codice ottimizzato di tutti questi modelli, affinché la comunità più ampia possa utilizzarli.»

Team di ricerca di Anthropic

Il codice è pensato per rendere più veloci e accessibili i flussi di lavoro esistenti nella modellazione biologica. Secondo Anthropic, il lavoro riguarda modelli addestrati per compiti che includono la previsione delle strutture e la progettazione di proteine, oltre alla genomica e alla modellazione del linguaggio delle proteine.

FlashPairformer interviene sulla parte più onerosa della previsione delle strutture

Nei moderni sistemi di previsione delle strutture, come AlphaFold3, OpenFold3 e Boltz-2, gran parte del tempo di esecuzione è assorbita dalla triangle attention e dalla triangle multiplication. Queste operazioni modellano le relazioni tra triplette di token, ma il tempo e la memoria che richiedono crescono in modo cubico all’aumentare delle dimensioni del sistema molecolare.

Claude ha contribuito a sviluppare FlashPairformer, un insieme di kernel GPU personalizzati per le due operazioni. Anthropic riferisce che FlashPairformer ha superato lo standard del settore in media di 2,7-2,9 volte per la triangle attention e di 1,7-3,2 volte per la triangle multiplication, a seconda della configurazione del modello.

Claude ha apportato anche modifiche specifiche ai singoli modelli, tra cui la memorizzazione nella cache di calcoli ripetuti inutilmente e la semplificazione dei rami inattivi nei rispettivi output costanti. Secondo Anthropic, i modelli di previsione delle strutture risultanti erano in media quattro volte più veloci, senza effetti misurati sul compito successivo. Per oltre una dozzina di modelli di previsione delle strutture, l’azienda riferisce un’esecuzione circa 1,6 volte più veloce quando gli output erano identici e circa quattro volte più veloce con una riduzione minima della precisione.

La modalità Big rende gestibili sistemi molecolari più grandi

Il rilascio affronta anche il problema dell’uso della memoria. La modalità «Big» di Anthropic, che richiede poca memoria, ha modellato con successo sistemi di oltre 10.000 token ed eseguito l’inferenza su sistemi di oltre 70.000 token usando un solo nodo GPU NVIDIA.

Tra gli esempi riusciti figurano il complesso I mitocondriale umano, il complesso chaperone TRiC, un proteasoma e un ribosoma batterico. Secondo Anthropic, ciascuno corrispondeva strettamente alla propria struttura determinata sperimentalmente. Il complesso I e il ribosoma 70S contengono ciascuno più di 10.000 token, contro i 7.663 token del ribosoma 40S la cui struttura è stata prevista accuratamente da AlphaFold3.

Il sistema può eseguire anche lavori di maggiori dimensioni a scopo dimostrativo. Usando un solo nodo NVIDIA B300 con otto GPU, Anthropic ha generato previsioni per capsidi virali e compartimenti proteici, con dimensioni che andavano da oltre 31.000 a oltre 70.000 token. Quelle previsioni non erano corrette, ma sono state eseguite su una scala che in precedenza richiedeva risorse di calcolo maggiori.

I costi della progettazione di proteine scendono da migliaia di dollari a circa 150 dollari

Anthropic ha usato i modelli ottimizzati in un secondo esperimento di progettazione di proteine. Nel lavoro precedente, Claude aveva ricevuto un prompt di circa 16.000 parole, accesso a sottoagenti e fino a 10.000 dollari per obiettivo su Modal, equivalenti a circa 2.500 ore di utilizzo di GPU NVIDIA H100.

Per il nuovo test, un modello Claude ha ricevuto accesso a una sola NVIDIA H200 per 24 ore, un prompt di circa 1.100 parole e una scheda di riferimento per gli strumenti preinstallati. Anthropic ha testato Mythos 5.1, Mythos 5 e Opus 5 su 16 obiettivi e ha valutato i progetti ottenuti con ipSAE, un punteggio in silico usato per stimare la capacità di legame.

Secondo Anthropic, i progetti con il punteggio mediano e quelli con il punteggio più alto hanno raggiunto valori ipSAE approssimativamente uguali a quelli delle precedenti campagne con Mythos 5.1, usando però circa due ordini di grandezza in meno di ore di GPU. L’azienda stima che, sommando i costi delle GPU e dei token, la spesa sia scesa a circa 150 dollari a parità di prestazioni in silico comparabili.

La competizione con Adaptyv Bio testerà oltre 5.000 progetti

Anthropic affianca al rilascio del codice una competizione di progettazione di proteine sponsorizzata insieme ad Adaptyv Bio. Gli organizzatori hanno selezionato cinque problemi, tra cui la reattività crociata tra specie, la sensibilità al pH, la specificità per il complesso peptide-MHC e obiettivi difficili come i recettori accoppiati a proteine G.

Adaptyv validerà sperimentalmente oltre 5.000 progetti presentati dalla comunità. Anthropic offre fino a 1 milione di dollari in crediti Claude, mentre Modal mette a disposizione fino a 250.000 dollari in crediti di calcolo. Twist Bioscience fornirà il DNA per la competizione.

La distinzione tra previsione e validazione in laboratorio è importante. I dati di Anthropic su velocità e costi provengono da valutazioni computazionali, mentre la competizione è pensata per verificare quanti progetti supereranno i test sperimentali. Il rilascio open source riduce il costo computazionale dei flussi di lavoro esistenti; non dimostra, di per sé, che le molecole risultanti funzioneranno in laboratorio.

Anthropic ha inoltre avviato una beta pubblica del suo Life Sciences Verification Program. L’azienda afferma di aver ammesso un primo gruppo di organizzazioni alle quali fornirà capacità di IA di frontiera per attività legate alla biologia.

Fonte

Esplora

Altri articoli