Vai al contenuto
AI.info

The Pulse

Kimi Code CLI aggiunge il supporto nativo ad Amazon Bedrock

Kimi Code CLI v2.7.0 può usare credenziali AWS standard per collegare il suo agente di programmazione ai modelli Amazon Bedrock. Il nuovo provider genera token bearer di breve durata, senza richiedere agli utenti di gestire una chiave API Bedrock separata.

Kimi Code CLI aggiunge il supporto nativo ad Amazon Bedrock

Gli utenti di Kimi Code CLI possono ora collegare l’agente di programmazione ai modelli Amazon Bedrock usando credenziali AWS standard, senza dover gestire una chiave API Bedrock separata. AWS ha descritto la modifica in un post del 19 novembre dedicato al provider Bedrock nativo di Kimi Code CLI v2.7.0 di Moonshot AI.

L’agente è open source e in precedenza poteva accedere ai modelli Bedrock tramite un provider generico configurato con una chiave API Bedrock. Il nuovo provider può usare i flussi di autenticazione AWS esistenti, compresi i profili con nome e il single sign-on.

Come cambia l’autenticazione

Per impostazione predefinita, il provider usa la catena di credenziali AWS, a meno che non sia configurata una chiave API Bedrock. Usa un pacchetto per generare token per creare una chiave API Bedrock di breve durata e la rinnova quando necessario, così gli utenti non devono inserire una chiave di accesso AWS o una chiave Bedrock generata manualmente nel file di configurazione di Kimi Code.

Le chiavi generate restano valide fino a 12 ore o per la durata della sessione AWS, a seconda di quale sia più breve. Una chiave API Bedrock inserita esplicitamente nella configurazione ha la precedenza sul percorso basato sulla catena di credenziali.

Il provider ricava anche il formato dell’API e l’endpoint regionale dall’ID del modello, anche se gli utenti possono modificarli. Per i modelli Kimi, il percorso individuato usa l’API Chat Completions compatibile con OpenAI.

AWS raccomanda credenziali di breve durata anziché di lunga durata e afferma che gli utenti restano responsabili della protezione delle proprie credenziali AWS e dell’impostazione di autorizzazioni adeguate. Le richieste richiedono comunque un’autenticazione e un’autorizzazione riuscite, l’accesso al modello e la connettività di rete.

Dettagli su modelli e costi

AWS usa Kimi K3.1 Pro Highspeed per dimostrare la connessione. Il modello supporta lo streaming, il ragionamento configurabile, l’input di immagini e la chiamata degli strumenti lato client; durante le attività di programmazione, la CLI può trasmettere le risposte in streaming e usare la chiamata degli strumenti.

L’esempio usa il profilo di inferenza globale global.moonshotai.kimi-k3.1, mentre la Regione AWS determina quale endpoint regionale riceve una richiesta. La configurazione di esempio dichiara una finestra di contesto da 1 milione di token e specifica esplicitamente le funzionalità di ragionamento, input di immagini e uso degli strumenti.

Bedrock addebita l’inferenza in base al numero di token. La guida usa l’inferenza globale tra Regioni per il modello di esempio e richiede un account con accesso al modello e al profilo di inferenza in una Regione di origine supportata.

Requisiti di configurazione

La guida richiede Kimi Code CLI v2.7.0 o versioni successive e un’identità AWS autorizzata a invocare il modello destinatario e il profilo di inferenza. Per i comandi relativi ai profili e alla verifica dell’identità citati nel post serve AWS CLI; il flusso di accesso facoltativo alla console tramite credenziali richiede AWS CLI v2.32.0 o versioni successive.

La policy di esempio concede le autorizzazioni per il modello Kimi specificato e per il profilo di inferenza globale. Una Regione impostata in un profilo AWS CLI si applica ai comandi AWS CLI, ma la Regione deve comunque essere impostata esplicitamente per Kimi Code.

Kimi Code inoltre non rileva automaticamente le funzionalità della maggior parte dei modelli Bedrock, compresi i modelli Kimi; l’esempio le dichiara in quel file.

Fonti

  1. Fonte originale · Post del blog Amazon Web Services aws.amazon.com

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli