Riduzione della limitazione (della larghezza di banda della rete) a livello di servizio
Per evitare la limitazione (della larghezza di banda della rete) di Amazon S3 a livello di servizio, puoi monitorare l'utilizzo e modificare le service quotas oppure puoi utilizzare determinate tecniche, come il partizionamento. Di seguito sono riportate alcune delle condizioni che possono portare alla limitazione (della larghezza di banda della rete):
-
Superamento dei limiti di richiesta API da parte del tuo account: Amazon S3 ha limiti di richiesta API predefiniti basati sul tipo di account e sull'utilizzo. Se per un singolo prefisso viene superato il numero massimo di richieste al secondo, le tue richieste potrebbero essere sottoposte alle limitazione (della larghezza di banda della rete) per evitare il sovraccarico del servizio Amazon S3.
-
Partizionamento insufficiente dei dati: se non partizioni correttamente i dati e trasferisci una grande quantità di dati, Amazon S3 può limitare le richieste. Per ulteriori informazioni sul partizionamento, consulta la sezione Utilizzo del partizionamento in questo documento.
-
Numero elevato di oggetti di piccole dimensioni: se possibile, evita molti file di piccole dimensioni. Amazon S3 ha un limite di 5500 richieste GET al secondo per prefisso partizionato e le tue query Athena hanno lo stesso limite. Se in una singola query analizzi milioni di oggetti di piccole dimensioni, è probabile che la tua query venga limitata da Amazon S3.
Per evitare un'analisi eccessiva, puoi utilizzare ETL di AWS Glue per compattare periodicamente i file oppure puoi partizionare la tabella e aggiungere filtri chiave di partizione. Per ulteriori informazioni, consulta le risorse seguenti.
-
Come posso configurare un processo ETL di AWS Glue per generare file più grandi?
(AWS Centro conoscenze di) -
Lettura di file di input in gruppi di maggiori dimensioni (Guida per gli sviluppatori di AWS Glue)