The Pulse
Anthropic apre l’accesso alla biologia ai team di ricerca sottoposti a verifica
Anthropic apre le candidature al suo Life Sciences Verification Program, che consente ai team sottoposti a verifica di accedere ai modelli Claude con meno restrizioni legate alla biologia. La beta comprende la scoperta di farmaci, la biolog
AI.info Team ·
Anthropic apre le proprie capacità in ambito biologico a un gruppo più ampio di ricercatori, spostando al contempo alcuni controlli di sicurezza dalle risposte immediate del modello al monitoraggio a livello organizzativo.
Il 17 settembre l’azienda ha annunciato il Life Sciences Verification Program, aprendo le candidature alla più ampia comunità delle scienze della vita dopo aver accolto decine di organizzazioni attraverso un programma ad accesso anticipato. La beta è inizialmente rivolta a team e istituzioni, che potranno accedere ai modelli Mythos, Opus e Sonnet di Anthropic con misure di sicurezza meno restrittive per il lavoro in ambito biologico rispetto a quelle applicate ai suoi modelli Fable generalmente disponibili.
La mossa affronta un conflitto diretto nella strategia di prodotto di Anthropic: gli scienziati hanno bisogno di modelli in grado di discutere di ricerca e sviluppo reali, mentre le stesse capacità potrebbero agevolare attività biologiche dannose. La risposta di Anthropic consiste nel limitare l’accesso alle organizzazioni sottoposte a verifica, legare le autorizzazioni ai progetti dichiarati e monitorare le attività alla ricerca di segnali di uso improprio.
Anthropic traccia un nuovo confine per l’accesso alla biologia
Il programma comprende attività che i modelli Fable attualmente bloccano o reindirizzano, tra cui la scoperta di farmaci, la biologia della ricerca, lo sviluppo clinico e la produzione. Anthropic afferma che il programma è pensato per team che vanno dai laboratori accademici alle startup e alle aziende farmaceutiche.
I candidati devono sottoporsi a una verifica delle proprie credenziali di ricerca, degli standard di sicurezza e della supervisione etica. Le organizzazioni approvate possono quindi richiedere uno dei due livelli di accesso: Standard Use o High-risk Use.
Le autorizzazioni Standard Use sono pensate per la maggior parte dei flussi di lavoro di ricerca e sviluppo nelle scienze della vita. Possono riguardare un intero team, essere rinnovate ogni anno e applicarsi a settori quali scienza di base, catene di approvvigionamento, produzione, sviluppo clinico, garanzia della qualità, affari regolatori e analisi degli investimenti.
I progetti ad alto rischio sono sottoposti a una verifica separata
Le autorizzazioni High-risk Use riguardano attività che Anthropic considera più esposte al rischio di uso improprio. Eliminano le misure di sicurezza per le scienze della vita che bloccano quelle richieste, ma si applicano a un singolo progetto di ricerca, anziché a un intero team, e devono essere rinnovate ogni sei mesi.
Anthropic cita come esempio un progetto che studia come una specifica famiglia di vettori virali venga riconosciuta dalle vie immunitarie umane. Al lancio sono disponibili autorizzazioni ad alto rischio per Claude Opus 5 e Claude Sonnet 5. L’azienda afferma che l’accesso ad alto rischio a Claude Mythos resta limitato a un piccolo gruppo di enti sottoposti a verifiche aggiuntive, in collaborazione con il governo degli Stati Uniti.
Con il programma restano attive altre misure di protezione. Anthropic afferma che i suoi classificatori di cybersicurezza continuano ad applicarsi anche quando un’organizzazione riceve un’autorizzazione per attività biologiche.
Il monitoraggio sostituisce alcuni blocchi in tempo reale
La principale novità tecnica del programma consiste nel passaggio dal blocco delle singole richieste in tempo reale all’esame, a posteriori, degli schemi di attività. Anthropic afferma che questo approccio dovrebbe ridurre le interruzioni per la ricerca legittima, fornendo al contempo ai suoi sistemi più contesto per valutare possibili usi impropri.
Questo compromesso comporta un obbligo di conservazione dei dati. Anthropic conserverà per 30 giorni i dati associati al traffico del Life Sciences Verification Program, a supporto del monitoraggio e delle verifiche. L’azienda afferma che i dati sono compartimentati, non possono essere utilizzati per addestrare modelli e non sono accessibili ai suoi team di ricerca nelle scienze della vita.
Anthropic afferma che le misure di sicurezza si concentrano su tre minacce: la compromissione degli account, l’uso improprio da parte di persone interne e le azioni pericolose di agenti di IA che operano per periodi prolungati o in gruppo. L’accesso è legato agli usi descritti nella candidatura di un’organizzazione e l’azienda monitorerà il traffico per individuare attività che esulano dall’ambito approvato.
Se il sistema rileva attività non autorizzate, Anthropic afferma di poter avvisare gli amministratori dell’organizzazione, che dovranno intervenire entro i tempi concordati per indagare sull’incidente e porvi rimedio. L’azienda sta inoltre valutando come il programma possa integrarsi con le sue Enterprise Frontier Safeguards, pensate per consentire ai clienti di conservare i dati nella propria infrastruttura cloud.
Le aziende che si occupano di scoperta di farmaci partecipano al programma iniziale
Tra i primi partecipanti di Anthropic figurano Xaira Therapeutics, Edison Scientific e Manifold Bio. Xaira ha dichiarato di voler utilizzare i modelli di Anthropic in tutte le sue attività di scoperta di farmaci.
«Siamo entusiasti di mettere al lavoro i modelli di frontiera di Anthropic in tutto il nostro motore di scoperta di farmaci e crediamo che abbinare un accesso affidabile all’intelligenza sia il modo giusto per realizzare le promesse dell’IA in biologia.»
Xaira Therapeutics
Edison Scientific ha dichiarato che il programma le permetterebbe di utilizzare i modelli più capaci di Anthropic per attività incentrate sulla scienza e sulla medicina. Anche Manifold Bio ha accolto con favore la decisione dell’azienda di affiancare a un accesso più ampio la responsabilità delle organizzazioni.
Candidature aperte, ma restano in vigore alcune limitazioni
Le organizzazioni possono candidarsi attraverso il programma di Anthropic. L’azienda prevede di ammettere centinaia di organizzazioni nella prima settimana e di ampliare ulteriormente il programma nelle settimane successive.
Al lancio, l’accesso è disponibile tramite la console API di Anthropic, i piani Claude for Enterprise e Claude Team. Il programma non supporta ancora i piani individuali né le piattaforme di terze parti. Non è inoltre disponibile per le organizzazioni che utilizzano accordi di business associate, il che significa che i clienti che trattano informazioni sanitarie protette devono ricorrere a organizzazioni separate senza accordi BAA.
Anthropic non ha rimosso tutte le restrizioni dalla sua linea di prodotti Claude più ampia. I modelli Fable continuano a reindirizzare molte richieste professionali in ambito biologico e di sviluppo di farmaci verso modelli Opus meno capaci, mentre l’accesso a Mythos resta limitato alle organizzazioni sottoposte a verifica. Il Life Sciences Verification Program è lo strumento con cui l’azienda amplia l’accesso senza rendere queste capacità generalmente disponibili.