Elaborazione interregionale per l'agente di risoluzione dei problemi di Apache Spark - Amazon EMR

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Elaborazione interregionale per l'agente di risoluzione dei problemi di Apache Spark

L'agente di risoluzione dei problemi di Apache Spark utilizza l'inferenza tra regioni per elaborare le richieste in linguaggio naturale e generare risposte. Con l'inferenza interregionale, l'agente indirizza automaticamente la richiesta di inferenza per ottimizzare le prestazioni, massimizzare le risorse di elaborazione disponibili e la disponibilità dei modelli e fornire la migliore esperienza al cliente. Il tipo di inferenza interregionale utilizzata dipende dalla regione in cui viene eseguito l'agente di risoluzione dei problemi di Apache Spark. Nella maggior parte delle regioni, l'agente seleziona la regione ottimale all'interno dell'area geografica per elaborare le richieste di inferenza. Tuttavia, in alcune regioni una richiesta di inferenza effettuata dall'agente viene inoltrata in modo sicuro a tutte le risorse di elaborazione disponibili in tutte le regioni commerciali globali. AWS

Inferenza tra regioni

L'agente di risoluzione dei problemi di Apache Spark è basato su Amazon Bedrock e utilizza l'inferenza tra regioni per distribuire il traffico tra diverse AWS regioni e migliorare le prestazioni e l'affidabilità dell'inferenza del modello di linguaggio di grandi dimensioni (LLM).

Sebbene l'inferenza interregionale non modifichi il luogo in cui è ospitata l'applicazione Spark o l'esperienza di risoluzione dei problemi o dove sono archiviati i dati, le richieste di input e i risultati di output possono essere trasmessi a regioni diverse per l'elaborazione dell'inferenza. Tutti i dati vengono trasmessi crittografati attraverso la rete sicura di Amazon.

Non sono previsti costi aggiuntivi per l'utilizzo dell'inferenza tra regioni.

Regioni supportate per l'inferenza tra regioni

Regioni che utilizzano l'inferenza geografica tra regioni

Per la maggior parte delle regioni, le richieste di inferenza tra regioni vengono conservate all'interno AWS delle regioni che fanno parte della stessa area geografica in cui viene eseguito l'agente di risoluzione dei problemi di Apache Spark. Ad esempio, una richiesta effettuata dall'agente nella regione Stati Uniti orientali (Virginia settentrionale) viene indirizzata solo alle AWS regioni all'interno della geografia degli Stati Uniti. La tabella seguente descrive le regioni verso cui le richieste possono essere indirizzate a seconda dell'area geografica in cui ha avuto origine la richiesta:

Geografia supportata Regioni di inferenza

Stati Uniti

Stati Uniti orientali (Virginia settentrionale) (us-east-1), Stati Uniti occidentali (Oregon) (us-west-2), Stati Uniti orientali (Ohio) (us-east-2), Stati Uniti occidentali (California settentrionale) (us-west-1)

Europa

Europa (Francoforte) (eu-central-1), Europa (Irlanda) (eu-west-1), Europa (Parigi) (eu-west-3), Europa (Stoccolma) (eu-north-1), Europa (Londra) (eu-west-2)

Asia Pacifico

Asia Pacifico (Tokyo) (ap-northeast-1), Asia Pacifico (Seoul) (ap-northeast-2), Asia Pacifico (Mumbai) (ap-south-1)

Regioni che utilizzano l'inferenza globale tra regioni

Importante

Le seguenti AWS regioni utilizzano l'inferenza globale tra regioni. Quando si utilizza l'agente di risoluzione dei problemi di Apache Spark in queste regioni, le richieste possono essere trasmesse a livello globale ad altre AWS regioni per l'elaborazione delle inferenze per ottimizzare prestazioni e disponibilità:

  • Sud America (San Paolo) (sa-east-1)

  • Asia Pacifico (Singapore) (ap-southeast-1)

  • Asia Pacifico (Sydney) (ap-southeast-2)

  • Canada (Centrale) (ca-central-1)