Kako je AI startup unapredio dostupnost aplikacije i optimizovao troškove AWS infrastukture 

Ciljevi

Jedan od glavnih ciljeva bio je da se obezbedi visoka dostupnost Blockade Labs aplikacije uz EC2 instance na Amazon Web Services (AWS) cloud-u. Ključne komponente projekta bile su prelazak na novu tehnologiju, kao i postavka novog staging i production setup-a sa fokusom na unapređenje cloud arhitekture i PHP konfiguracije, kao i optimizaciju troškova na AWS-u.  

Rezultati  

• Unapređena dostupnost aplikacije bila je od suštinskog značaja za Blockade Labs, koji svojim korisnicima garantuje generisanje virtuelnih prikaza za svega nekoliko sekundi. Problemi sa padom servera su eliminisani uz optimalnu PHP konfiguraciju, koja je obezbedila balans između korišćenja memorije i CPU-ja.

• Adekvatna optimizacija infrastrukture omogućila je i finansijsku prednost: uštedu od 30% za celokupnu AWS konzumaciju.  

Visoka dostupnost u fokusu  

• Sa rastućim brojem korisnika i zahtevima za visokom dostupnošću aplikacije zasnovane na AI tehnologiji i hostovane na AWS infrastrukturi, kompanija Blockade Labs je sebi postavila zadatak: da reši infrastrukturne probleme (prelaskom na nove tehnologije), unapredi konfiguraciju u okviru EC2 instanci i osigura da će aplikacija optimalno raditi čak i u slučajevima preopterećenja servera.  

• Iako su probleme pokušali da reše interno, kompleksnost tehnoloških izazova povela ih je u potragu sa eksternim partnerom. Vodeći se iskustvom u isporuci adekvatno dizajniranih (well architected) infrastrukturnih rešenja i ekspertizom za uspostavljanje visoke dostupnosti u AWS okruženju, Mainstream tim je klijentu ponudio rešenje za prelazak iz trenutnog u željeno stanje infrastrukture. 

Postojeće stanje 

Klijent je u toku angažmana Mainstream-a koristio apache web server, koji nije mogao da izdrži veliki broj klijentskih zahteva. Takođe su koristili zasterelu verziju PHP-a (8.0) koju je bilo neophodno ažurirati.  

Jedan od ključnih ciljeva projekta bio je da se omogući skaliranje (podizanje i smanjenje broja instanci) za optimalan performans aplikacije u svakom trenutku.

Naše rešenje 

• Prvi korak je bio prelazak sa stare na novu tehnologiju.  Mainstream tim je optimizvao PHP 8.2 konfiguraciju, a Apache konfiguracija je prebačena na nginx konfiguracione fajlove, što je odgovaralo većem broju konekcija koja klijent ima prilikom korišćenja aplikacije.  
• U drugoj fazi, implementirali smo Auto Scaling group servis sa load balancer-om na AWS-u. Ovaj servis omogućava da se sistem dinamički skalira uz proširenje (ili smanjenje) broja EC2 instanci. Nakon postavke i provere staging setup-a, sproveli smo prelazak na produkcioni setup sa AutoScaling Group servisom i load balancer-om, gde smo kao maksimalni kapacitet postavili 5 instanci.  
• Kao uzrok pada servera identifikovali smo neadekvatnu PHP konfiguraciju. S3 bucket je bio preplavljen slikama koje korisnici generišu, a cashe se nije brisao i time se opterećivao broj PHP thread-ova koji su bili definisani u PHP pool-u na serverima. Naš tim je sproveo adekvatnu konfiguraciju i obezbedio balans između memorije i CPU-ja koje server koristi.  

Smanjenje troškova kao dodatan benefit  

Pored navedenih prednosti, kao što je visoka dostupnost aplikacija, postigli smo uštedu od 30% za celokupnu AWS utilizaciju. Ova ušteda je postignuta na bazi podataka tako što smo optimizovali pristup S3 objektima kroz cloudfront distribuciju i redis optimizaciju.