Jelikož obecně nejsem moc velký psavec, rozhodl jsem se zmenšit množství různých míst, kde podávám informace o TOPlistu. Proto:

Pro ty, kteří nechtějí čekat celý týden na email se souhrnem návštěvnosti, jsem připravil RSS feed. Link na něj je v podrobných statistikách. Jednak v menu vpravo nebo je uveden i v headru stránky, takže jej nabídne každý inteligentnější prohlížeč.
Obecně má adresu http://www.toplist.cz/stat/?id=ID_stránky&a=rss.
Obsahuje počet návštěv a zhlédnutí za konkrétní den a pořadí celkové a v kategorii.

V posledních dnech, kdy objem denních statistik přesáhl 170 miliónů zhlédnutí, se ukázala nutnost výměny hlavního databázového serveru.

Je docela překvapivé, že na svém místě vydrzel víc než tři roky. Ale je pravda, že z něj byla během té doby podstatná část zátěže přesunuta na další dva pomocné servery.
Takže původní dual Xeon na 3GHz a 2GB paměti byl vyměnen za nový s parametry 2x quad-core Xeon E5335 2GHz, 8GB RAM, 4x 76GB 15krpm SAS v RAID 10.

Bylo nutné systém ještě trochu vyladit (raid je softwarový, ale server obsahuje i HW RAID s 256 MB vyrovnávací paměti a to trochu mate systém při zápisech), ale jinak se zdá, že by měl mít dostatečný výkon. A je jenom otázka, jestli vydrzí tak dlouho jako jeho předchůdce.

A jedna perlička na závěr. Když to spočítám, tak TOPlist dnes bězí na 15 procesorech, celkem s 32 jádry, 24 GB RAM a 4TB disků. Nebýt toho, že ty požadavky stoupaly postupně během posledních 4 let (tenkrát ještě všechno běželo na jednom stroji), dalo se to všechno nacpat do jednoho blade serveru :-).

Data o návštěvnosti je nyní možné získávat i ve formátu XML.

Fungují na podobném principu jako Infopanel, tj. nedochází k vlastnímu měření. Pro něj je nutné použít nějaký klasický měřící kód.

Dostupná data jsou stejná jako pro větší verzi panelu: návštěvnost celkem, dnes, za týden, pořadí celkové a v kategorii a počet uživatelů online.

Adresa pro volání je http://toplist.cz/images/counter.asp?a=xml&id=ID_stranky

Poznámka: jen připomínám, že pokud budete tento způsob využívat k zobrazení návštěvnosti přímo ve stránce, nebude v ní započítáno její aktuální zobrazení, které je zaznamenáno až načtením měřícího kódu.

Problémy začaly minulý týden, kdy na hostingu (Casablanca) vypadl proud a prý jim dvacet minut trvalo než na to vůbec přišli.
Všechno vyvrcholilo včera večer, kdy se při instalaci nového serveru zjistilo, že je na jednom stávajícím disk v takovém stavu, že po rebootu už nenaběhl (nechci spekulovat, jak moc se na této situaci výpadek projevil, ale umřelého železa bylo po serverovně vidět docela dost).
Jelikož ani rozběhnutí nového serveru nebylo zcela bez problému (např. podpora pro nový RAID řadič je až v jádře 2.6.14) byl dneska, bohužel, TOPlist v degradovaném stavu. Nyní se podařilo situaci stabilizovat. Nový server se na tom podílí nemalou měrou.

Jedná se o poměrně zajímavý kousek. Jeho výrobce je Supermicro a z oficiálních stránek se o něm nic nedovíte. Na nich se totiž zdá, se Supermicro je  čistě Intel-only výrobce. Takže až na adrese http://www.supermicro.com/Aplus/ se dá objevit, že to není úplně pravda. Tento konkrétní kousek má označení AS1020A-T. Jedná se o 1U server osazený 2GB RAM a dvěma Opterony 270 (2.0GHz, dual-core). Zatím na něm běží 32bitová verze Debianu (sarge). O tom, jakou 64bit distribuci tam dát zatím uvažuji (zatím mi běží Ubuntu a CentOS). Vaše případné tipy jsou vítány :-).

Ještě není celý systém úplně doladěný, ale celkový nárůst výpočetní kapacity je téměř 50%, takže skýtá rezervy. A ještě se trochu zvednou, až se zase zapojí ten odešlý server, co tam leží v koutě, to byl Opteron 144 (1,8Ghz,  single-core).

Já bych rád ukázal jeden konkrétní graf, na kterém je vidět o kolik. Jde o provoz v rozsahu 3000 - 3500 dotazů za vteřinu (modří již vědi :-)). Grafy odpovídají stejnému časovému úseku. Jak je z nich vidět, je nárůst relativně vysoký, přibližně 50%.


Protože se jedná o velké množství jednoduchých dotazů a hlavně dotazů modifikující obsah tabulek(insert, update), nejsou využity rozšířené možnosti jako query cache, subselecty atd. V případě, že by je projekt využíval (publikační systémy, virtuální obchody atp.) může být situace opačna. Ale pokud máte aplikaci, která používá základní sadu dotazů, je asi lepší zůstat u starší verze.

Jelikož zastávám přesvědčení, že se nemá ztrácet čas s tím, co udělali jiní a lépe, je použitá klasická relační databáze. Nejdřív MS SQL (proto také ty historické koncovky .asp), nyní když je TOPlist LAMP (je hezké, že se dá zkratka použít pro Perl i Python, ještě by to chtělo nějaký jazyk P a P-shell), používám MySQL. Zatím ve verzi 4.0 a přemýšlím, jestli použít 4.1 nebo počkat až na 5.0. Pro zajímavost jsem vytáhl graf zátěže. Zelená čára je aktuální počet dotazů za vteřinu a modrá je průměr od startu.

Pochopitelně, v případě že se jedná o zatíženější aplikaci (mimochodem, minulé pondělí, ze kdy je ten graf, byla poprvé překonána hranice 60 miliónů měření za den, běžně je nad 55 miliónů) je potřeba pečlivý návrh a trochu se věnovat nastavení. Ovšem, i příslušný hardware.

Na TOPlistu mi databáze běží na IBM xSeries 345. V konfiguraci 2xXeon 3GHz, 2 GB RAM a 3+1 36GB (proč plus jedna bude dál) disky. Jedná se o rackový server velikosti 2U. Tradičně výborně je řešené uchycení. Lyžiny se nasazují tím, že se natáhnou západky, které se pak "nastřelí" do lišt ve skříni. A server se pak už jen na ně položí a zajistí. Takže žádné šroubování deseti šroubků a hledání zapadlých mezi kabeláží, ale s trochou cviku je za dvě minuty všechno vyřízeno. Jediný zádrhel může nastat s délkou. Většina hostingů má skříně pouze 80cm hluboké. A vzhledem k délce 70cm a prostoru potřebného k proudění chladícího vzduchu je potřeba použít skříň alespoň s metrovou hloubkou.

Na serverovně jsem ho zkusil vyfotit na mobilu. Když jsem to viděl, tak jsem si říkal, že tam někdy musím vzít digiták. Ale nakonec jsem se rozhodl pro tuhle, protože je taková autentická ("Proč jsou vždycky záběry UFO rozmazaný?" Hellboy). Dokonce se mi podařila stihnout zachytit i rozsvícená LEDka disku :-). Chtěl jsem původně všechny tři, ale po asi dvaceti pokusech jsem byl rád aspoň za tu jednu. Je tam vidět i jeden z webserverů, ale o těch třeba až jindy.

Takže k těm diskům. Někdy v půlce července odešel jeden z disků v poli. Díky RAIDu 5 vše běželo. Během dvou dnů IBM poslala nový a vyměnil se. Ale přecejen to bylo trochu nervoznější období, protože jak píše Terry Pratchett, jestli má něco pravděpodobnost jedna ku miliónu, můžete si být jistí, že se to stane (tedy v případě, že je to něco nepřijemného). Rozhodl jsem se proto využít jednu z funkcí, kterými se liší skutečný RAID řadič od toho, který za něj vydávají výrobci motherboardů. Přidal jsem hot-spare disk. Nyní je to ten vlevo dole.
 
Pro ty, kteří si nehrají se servery: jak název napovídá, jedná se o disk, který za normálních okolností "leží ladem". Ovšem ve chvíli, kdy některý z aktivních disků vykáže chybu a je odpojen, monitoring pošle SMSku a řadič sám automatický začne pole vytvářet na tomto záložním. Rozbitý disk se pak vymění a stane se z něj hot-spare. Možná vás napadlo, co se stane ve chvíli, když by odešel během vytváření další disk. Ano, pak by přišly ke slovu zálohy :-) Ovšem pravděpodobnost, že během hodiny (co trvá přestavění pole) odejdou dva disky je taková, že už Pratchettovi věřit nebudu. Není to sice součin obou pravděpodobností (takže ne jedna ku miliónu na druhou :-)), ale i tak je taková, že se spíš stane něco úplně jiného.

Instalace byla také docela jednoduchá. Disk se strčil do zásuvky, přes ipssend SCANDRIVES se řadiči řeklo, že má zjistit změny (tj. přidaný disk) a pak už jen SETSTATE HSP pro nastavení stavu. Disk dvakrát zablikal jako že jo a pak už jen GETCONFIG hlásí: State: Hot spare (HSP).

Hlavní data jsou ukládána do mySQL, resp. InnoDB. To úložistě je nastaveno tak, aby byla volná rezerva přibližně 7GB. Dnes v noci se, při přepočítávání statistik za minulý den, zcela zaplnila. Bohužel jsem podcenil tuto možnost (ta rezerva mi přišla dostatečná), takže upozornění SMSkou mi přišlo až v devět ráno.
Nyní proto přibyl další graf do sledování, takže v budoucnu bude snažší tento stav předvídat.
Ostatně, nyní se generuje několik desítek grafů, takže možná trochu poodkryju poličku a některé zde časem zveřejním.
Za výpadek se všem omlouvám.

Není to úplná novinka, ale asi jsem o tom ještě nikde nepsal :-) Kdysi jsem si hrál s WAPem, takže stačí použít kód:

<img src="http://toplist.cz/wap.asp?ID=xxx" alt="."/>

kde xxx je pochopitelně ID stránky. Posílá to WBMP bílý bod. Nejsou tam žadná rozšiření pomocí Javaskriptu atp. Další omezení je, že WAP neposílá referrer, takže stránky jsou označeny ve statistikách jednotně jako "W@P". Ještě není udělaná nějaká bližší identifikace mobilů, ale pokud bude zájem a hlavně data, tak se to dá dodělat.

Trochu jako náhradu na páteční výpadek jsem zprovoznil několik novinek.
Je to zejména měření návštěvnosti podle země.
Dál jsem u výpisu cest po serveru přidal linky na stránky (ahoj Ivo :-)) a u výpisu hledaných frází přidal možnost vypsání všech.
A ještě drobnost, u mailu s týdenními statistikami je v subjectu uvedeno číslo týdne a rok.