Si queres empezar a desarrollar para escritorio con un entorno amigable y que trabaje con XP y vista te recomiendo .NET
VB.NET es muy facil o mejor C#.
Actualmente esta visual studio 2008, es muy bueno y te lo recomiendo.
En cuanto a BD, te recomiendo SQL server, visual studio trae sql server express para empezar, tambien podes utilizar mySQL o SQLlite...al igual que otras muchas eso depende de lo que queres desarrollar.
Con este podes desarrollar tanto aplicaciones de escritorio, consola o web. Incluso viene, nunca lo he probado por lo que no se como funciona, un framework llamado MONO para linux, se supone que permite correr las aplicaciones desarrolladas sobre este SO.