Die 2Gb Speicher sind wohl das, was es teuer machen wird.. Ist die Frage, ob man das braucht, wenn man eh nur PHP Zeugs drauf laufen hat..
Oder wenn man nur PHP+MySQL will, nicht gar mit einem reinen 'PHP-Server' auskommt bzw. nicht sogar besser dran ist, weil man sich die Warterei von dem Klump spart. Da müsste man sich aber genau informieren, was die bieten, denn sonst kommts möglicherweise schon bei der ersten Gallerie zu Problemen, denn die verwenden oft irgendwelche 'externen' Tools wie imagemagick zum Bilder konvertieren/resizen.
Apropos Wartung: Bei einem Server würde ich rein persönlich sehr stark zu Debian stable statt Ubuntu tendieren, macht erfahrungsgemäß weniger Probleme bei Updates. Allerdings ist Debian grad in Feature-Freeze, dh. die neue Version kommt dann .. irgendwann .. Und da hat sich einiges (nun auch bei Debian) getan beim Init und Bootloader, könnte bei einem Upgrade diesmal nicht problemlos gehn.. Bei einem billigen Server hat man aber denk ich meistes ohnehin nicht die große Auswahl beim OS, macht aber auch nix ..
Bei mir hier laufen 3 virtuelle Server auf einem Debian-Server mit 1.8Gb RAM mit vserver (da läuft nur ein Kernel für alle 4 Server, wird wohl das sein, was die meisten billigen Root-Server verwenden).
Mein Webserver frisst 1.1Gb RAM (davon 520Mb physisch), davon fallen aber allein 280Mb auf den Jabber-Server (Java, der Mist. Pro Java-Server muss man mind. 300Mb RAM einrechnen!), gut 400Mb nur für den dämlichen Virenscanner+Spamscanner für den Mailserver (der eigentlich eh nie was richtig erkennt..), ~250Mb für Apache+PHP. Der Rest ist von Mail+IMAP, MySQL, Samba, SSH, Fetchmail, Fcron, ...
Ich schätz, selbst mit nur PHP+Mysql wird man schon mind. 256Mb RAM brauchen. Wenn man aber von Java und Virenscannern die Finger lässt, könnte man auch locker mit 512Mb RAM glücklich werden.
Bei der Festplatte ist dann die Frage, wie es mit Platz für Backups aussieht, obs da extra Platz dabei ist oder ob man die Backup-Daten mit auf die Datenplatte legen muss. Mit Backup mein ich damit jetzt nicht (nur) "Wenn dem Hoster die Platte crasht, dann ist nachher wieder alles da", sondern eigentlich das wichtigere "Wenn man was versemmelt oder ein Scriptkiddie einem die Webpage versaut, kann man einen alten Zustand wieder herstellen". Dazu tuts nicht irgendein RAID oder Cluster, denn wenn man was killt, ist am RAID genauso alles hin. Da brauchts ein Backup, dass entweder automatisch inkrementell sichert (wie rdiff-backup) oder zumindest ein paar alte Versionen aufhebt, oder man macht händisch Backups wenn man sich sicher ist, dass der Datenbestand Backup-würdig ist.
Ad Hosting: Hab ich selber noch nie in Anspruch genommen, hab daher keine direkte Erfahrung mit Providern, aber:
- Den Namen Hetzner hab ich im Büro früher oft gehört, dürft ganz ok sein.
Allerdings ist die Webseite irgendwie grad relativ langsam

Und bei den vServern, dem vllt. interessantesten Angebot (wenn einem das Susi-Sorglos-Webpaket nicht liegt) gibts keine Flatrate-Version (allerdings anscheinend dafür nur einmal einen Fixpreis pro Monat, wenn man drüber kommt, sonst hat man halt 'nur' 10Mbit.. ist auch ok).
- Ein Kollege hat sich mal mit einem riesen Haufen Pizzaschachtel-Hardware selbstständig gemacht, daraus ist IPAX entstanden, könnte auch interessant sein:
http://www.ipax.at/webpack.html