Lo primero que tienes que hacer es entender por qué te pueden haber penalizado. Si es que realmente estabas haciendo spam, a través de cualquier técnica (vaya usted a saber...) lo mejor que puedes hacer es simplemente desandar el camino inadecuado. Por ejemplo, eliminar contenido que no era bueno, contenido duplicado, eliminar enlaces que no estaban siendo bien considerados, etc.
Si tienes enlaces de muy baja calidad que van hacia tu sitio web, lo que puedes haber provocado tú mismo al obtener enlaces o quizás tus competidores a base de ataques de SEO negativo, algo que debes hacer es desautorizar los enlaces que puedan estar perjudicando.
La herramienta de desautorizar (disavow links) enlaces está en https://www.google.com/webmasters/tools/disavow-links-main
Por supuesto, también tienes que observar cómo está tu sitio en las herramientas de webmasters de Google, allí podrás encontrar diversos problemas detectados por el buscador. Lo que necesitarías hacer es ir resolviendo tus problemas. Tan rápido como puedas.
Puede que tengas páginas con problemas por errores 500 con el servidor, que tengas páginas con contenido duplicado, etc. En general las webmaster tools tienes que mantenerlas vigiladas diaramente o al menos una vez a la semana.
Acciones manuales
Otro tema muy importante son las acciones manuales. En las herramientas para webmasters de Google, ahora llamada search console hay una opción llamada "Acciones manuales". Allí puedes comprobar si realmente se ha aplicado alguna acción manual a tu sitio por parte de los editores de Google, a todo o parte de su contenido.
Las acciones manuales se realizan por humanos, del equipo de Google que han podido observar que se usan técnicas no válidas, que tratan de adulterar los resultados del buscador. Las acciones manuales son muy nefastas para el posicionamiento, pero generalmente cuando ocurren es que realmente se estaban haciendo cosas malas.
En caso de que se encuentren acciones manuales lo primero es ver cuáles son y de qué se tratan. Por supuesto, tendrás que solventar todos los problemas que aparezcan. Una vez que hayas realizado todas las modificaciones a tu sitio, puedes solicitar una reconsideración, que será atendida por humanos, para deshacer la penalización que haya sido impuesta.
En el informe de acciones manuales te especifican claramente qué URLs o qué partes de tu contenido están bajo penalización y por supuesto cuál es el problema que se debe corregir. Lo recomendable es arreglar todos los problemas de todas las acciones manuales antes de pedir una reconsideración.
Estar atento a nuevas circunstancias de penalización
Finalmente, cuando consigas arreglar los problemas debes estar atento para que no se vuelvan a reproducir. Obviamente, si has sido tú el causante lo tendrás más fácil para corregir, pero si han sido agentes externos, tienes que poner las medidas para que no pase de nuevo.
Por ejemplo, las penalizaciones manuales pueden haber sido errores de seguridad, o páginas infectadas con adware o malware. En cuyo caso debes hacer una revisión de tu seguridad. Por ejemplo enlaces que hayan subido a sitios de poca calidad, para lo que deberías revisar siempre la sección de "Enlaces" de Search Console, para vigilar qué enlaces Google va detectando a tu sitio y solucionar posibles problemas antes que se produzcan nuevas penalizaciones.
Espero haber ayudado