The Pulse
Anthropic chiede agli studi legali di stabilire regole per le trattative condotte dall’IA
Anthropic consulta studi legali sulle norme per una negoziazione equa da parte di agenti di IA che agiscono per conto degli utenti. Un precedente test di Claude in un marketplace ha rilevato che i modelli più avanzati ottenevano prezzi migl
AI.info Team · Scritto con l’IA ·
Gli agenti devono servire gli utenti senza trasformare ogni trattativa in una gara
Anthropic consulta studi legali su come gli agenti di IA dovrebbero negoziare per conto degli utenti: un compito che mette in tensione due obiettivi, ottenere condizioni favorevoli per una persona e mantenere eque le trattative quando entrambe le parti potrebbero essere rappresentate da software. Le discussioni dell’azienda riguardano agenti che potrebbero contrattare sui prezzi, risolvere reclami o migliorare offerte contrattuali, secondo quanto riportato da The Decoder il 18 ottobre, citando il Financial Times.
La questione non è soltanto se un agente sia in grado di concludere un accordo. È quali limiti debbano orientarne le tattiche quando anche la controparte potrebbe essere rappresentata da un agente con istruzioni diverse. Anthropic cerca indicazioni su come gli avvocati tutelino gli interessi dei clienti rispettando al tempo stesso l’equità dei risultati, ha riferito The Decoder.
Il test di Anthropic in un marketplace ha mostrato un divario tra i modelli
La consultazione segue l’esperimento Project Deal di Anthropic, in cui agenti Claude hanno negoziato scambi di beni reali per i dipendenti della sede aziendale di San Francisco. Il progetto pilota, durato una settimana, ha coinvolto 69 dipendenti, ciascuno con un budget di spesa di 100 dollari; gli agenti hanno concluso 186 accordi per un valore complessivo delle transazioni di poco superiore a 4.000 dollari.
In versioni parallele del marketplace, Anthropic ha confrontato agenti basati su Claude Opus 4.5 con agenti che utilizzavano il più piccolo Claude Haiku 4.5. Quando lo stesso articolo veniva venduto con entrambi i modelli nel confronto in esame, l’agente Opus otteneva in media 3,64 dollari in più. Anthropic ha inoltre rilevato che gli agenti Opus concludevano in media circa due accordi in più rispetto agli agenti Haiku.
La differenza non era evidente ai partecipanti. Dopo l’esperimento, le persone hanno valutato l’equità degli accordi conclusi dai due modelli in modo pressoché identico: 4,05 per Opus e 4,06 per Haiku su una scala di sette punti. Anthropic ha avvertito che il progetto pilota coinvolgeva un gruppo di dipendenti che avevano scelto di partecipare e non era concepito per spiegare le cause del divario né per prevederne tutti gli effetti nei mercati reali.
Anthropic afferma che il quadro giuridico non esiste ancora
Gli autori del rapporto di Anthropic su Project Deal collegano direttamente quel risultato alle questioni giuridiche che gli sviluppatori di agenti devono ora affrontare: «I quadri normativi e giuridici per i modelli di IA che effettuano transazioni per nostro conto semplicemente non esistono ancora». Gli autori del rapporto sono Kevin K. Troy, Dylan Shields, Keir Bradwell e Peter McCrory.
Project Deal era un piccolo marketplace aziendale, non un test di agenti impegnati a negoziare stipendi, risolvere controversie con i clienti o trattare con imprese commerciali. Ha comunque offerto un avvertimento concreto: la capacità di un modello di rappresentare una persona in una transazione può incidere sulle condizioni che questa ottiene, anche quando non si accorge della differenza. Anthropic ha affermato che agenti più avanzati potrebbero produrre risultati diseguali nei mercati reali, avvertendo però che i contesti commerciali potrebbero creare incentivi diversi da quelli del suo esperimento con i dipendenti.
Un programma separato coinvolge esperti di diritto nella valutazione dei modelli
Anthropic sta inoltre reclutando esperti in discipline tra cui il diritto attraverso il programma Conceptual Reasoning Fellowship, della durata di quattro mesi. Il suo annuncio di lavoro indica che i partecipanti lavoreranno con i team di ricerca per valutare, migliorare e applicare le capacità di Claude nelle rispettive discipline, anche progettando test per problemi che richiedono un elevato grado di giudizio. Il compenso indicato è compreso tra 100.000 e 167.000 dollari per il programma di quattro mesi.
Il programma è separato, ma riflette la stessa difficoltà alla base delle regole per le trattative: le questioni di giudizio giuridico ed etico spesso non hanno risposte univoche. Secondo l’annuncio, il programma si svolgerà dal 12 gennaio all’8 maggio 2027 e il termine fissato da Anthropic per presentare domanda è il 28 ottobre 2026.