Vai al contenuto
AI.info

The Pulse

Anthropic apre l’accesso alle funzionalità per la biologia ai team di ricerca verificati

Anthropic apre le candidature al suo Life Sciences Verification Program, che offre ai team verificati accesso ai modelli Claude con meno restrizioni relative alla biologia. La versione beta copre la scoperta di farmaci, la ricerca biologica

Anthropic apre l’accesso alle funzionalità per la biologia ai team di ricerca verificati

AI.info Team · Scritto con l’IA · verificato ·

Anthropic sta aprendo le sue funzionalità per la biologia a un gruppo più ampio di ricercatori, trasferendo parte dei controlli di sicurezza dalle risposte immediate del modello al monitoraggio a livello di organizzazione.

L’azienda ha annunciato il Life Sciences Verification Program il 17 settembre, aprendo le candidature alla comunità più ampia delle scienze della vita dopo aver ammesso decine di organizzazioni attraverso un programma di accesso anticipato. La versione beta si rivolge inizialmente a team e istituzioni, che potranno accedere ai modelli Mythos, Opus e Sonnet di Anthropic con misure di sicurezza più permissive per le attività legate alla biologia rispetto a quelle applicate ai modelli Fable, disponibili al pubblico.

La decisione affronta un conflitto diretto nella strategia di prodotto di Anthropic: gli scienziati hanno bisogno di modelli in grado di discutere attività reali di ricerca e sviluppo, mentre le stesse capacità potrebbero agevolare attività biologiche dannose. La risposta di Anthropic è limitare l’accesso alle organizzazioni verificate, vincolare le autorizzazioni ai progetti dichiarati e monitorare le attività alla ricerca di segnali di uso improprio.

Anthropic ridefinisce i limiti di accesso per la biologia

Il programma copre attività che i modelli Fable attualmente bloccano o reindirizzano, tra cui la scoperta di farmaci, la ricerca biologica, lo sviluppo clinico e la produzione. Il programma è destinato a team che vanno dai laboratori accademici alle startup e alle aziende farmaceutiche.

Chi presenta domanda deve sottoporsi a una verifica delle proprie credenziali di ricerca, degli standard di sicurezza e della supervisione etica. Le organizzazioni approvate possono quindi richiedere uno di due livelli di accesso: Standard Use o High-risk Use.

Le autorizzazioni Standard Use sono pensate per la maggior parte dei flussi di lavoro di ricerca e sviluppo nelle scienze della vita. Possono coprire un intero team, si rinnovano annualmente e si applicano ad ambiti che comprendono la ricerca di base, le catene di approvvigionamento, la produzione, lo sviluppo clinico, la garanzia della qualità, gli affari regolatori e l’analisi degli investimenti.

Una verifica separata per i progetti ad alto rischio

Le autorizzazioni High-risk Use si applicano alle attività che Anthropic ritiene più soggette a un possibile uso improprio. Rimuovono le misure di sicurezza per le scienze della vita che bloccano tali richieste, ma si applicano a un singolo progetto di ricerca anziché a un intero team e devono essere rinnovate ogni sei mesi.

Anthropic cita come esempio un progetto che studia il modo in cui una specifica famiglia di vettori virali viene riconosciuta dalle vie immunitarie umane. Le autorizzazioni ad alto rischio per Claude Opus 5 e Claude Sonnet 5 sono disponibili al lancio. L’accesso ad alto rischio a Claude Mythos rimane limitato a un piccolo gruppo di entità sottoposte a ulteriori verifiche, in collaborazione con il governo statunitense.

Altre protezioni rimangono attive nell’ambito del programma. I classificatori di Anthropic per la sicurezza informatica continuano ad applicarsi anche quando un’organizzazione riceve un’autorizzazione per le scienze della vita.

Il monitoraggio sostituisce alcuni blocchi in tempo reale

Il principale cambiamento tecnico del programma consiste nel passaggio dal blocco delle singole richieste in tempo reale all’esame a posteriori degli schemi di attività. Secondo Anthropic, questo approccio dovrebbe ridurre le interruzioni per la ricerca legittima, fornendo al contempo ai suoi sistemi più contesto per valutare possibili usi impropri.

Questo compromesso comporta un obbligo di conservazione dei dati. Anthropic conserverà per 30 giorni i dati associati al traffico del Life Sciences Verification Program, a supporto del monitoraggio e delle verifiche. I dati sono compartimentati, non possono essere utilizzati per addestrare modelli e non sono accessibili ai suoi team di ricerca nelle scienze della vita.

Le misure di sicurezza si concentrano su tre minacce: la compromissione degli account, l’uso improprio da parte di persone interne e le azioni pericolose di agenti di IA che operano su compiti di lunga durata o in gruppo. L’accesso è vincolato agli usi descritti nella domanda di un’organizzazione e l’azienda monitorerà il traffico per individuare attività al di fuori dell’ambito approvato.

Se il sistema individua attività non autorizzate, Anthropic può avvisare gli amministratori dell’organizzazione, che devono agire entro i tempi concordati per indagare sull’incidente e porvi rimedio. L’azienda sta anche esaminando come il programma potrebbe funzionare con le sue Enterprise Frontier Safeguards, pensate per consentire ai clienti di conservare i dati nella propria infrastruttura cloud.

Le aziende attive nella scoperta di farmaci partecipano al programma iniziale

Tra i primi partecipanti di Anthropic figurano Xaira Therapeutics, Edison Scientific e Manifold Bio. Xaira ha dichiarato di voler utilizzare i modelli di Anthropic nelle proprie attività di scoperta di farmaci.

«Siamo entusiasti di mettere al lavoro i modelli di frontiera di Anthropic nel nostro motore di scoperta di farmaci e crediamo che abbinare un accesso affidabile all’intelligenza sia il modo giusto per realizzare il potenziale dell’IA in biologia».

Xaira Therapeutics

Edison Scientific ha dichiarato che il programma le permetterebbe di utilizzare i modelli più capaci di Anthropic per attività incentrate sulla scienza e sulla medicina. Anche Manifold Bio ha accolto con favore la decisione dell’azienda di abbinare un accesso più ampio alla responsabilità delle organizzazioni.

Candidature aperte, con limiti ancora in vigore

Le organizzazioni possono presentare domanda tramite il programma di Anthropic. L’azienda prevede di ammettere centinaia di organizzazioni durante la prima settimana e di espandere ulteriormente il programma nelle settimane successive.

Al lancio, l’accesso è disponibile tramite la console API di Anthropic e i piani Claude for Enterprise e Claude Team. Il programma non supporta ancora i piani individuali né le piattaforme di terze parti. Non è inoltre disponibile per le organizzazioni che utilizzano accordi di associazione commerciale, il che significa che i clienti che trattano informazioni sanitarie protette devono utilizzare organizzazioni separate non coperte da BAA.

Anthropic non ha rimosso tutte le restrizioni dalla sua più ampia linea di prodotti Claude. I modelli Fable continuano a reindirizzare molte richieste professionali relative alla biologia e allo sviluppo di farmaci verso modelli Opus meno capaci, mentre l’accesso a Mythos rimane limitato alle organizzazioni verificate. Il Life Sciences Verification Program è lo strumento con cui l’azienda amplia l’accesso senza rendere tali capacità disponibili al pubblico.

Fonte

Notizie correlate

Esplora

Altri articoli