Para borrar el archivo tienes que usar un comando "git rm". Suponiendo que tu archivo de variables de entorno se llama ".env", el comando sería el siguiente:
git rm --cached .env
Tienes en el Manual de Git de desarrolloweb explicada toda la operativa de borrado de archivos del repositorio.
No te olvides luego de meter el archivo .env dentro de tu .gitignore, para que el fichero de las variables de entorno no vuelva a subirse al repositorio.
Por cierto, una vez que lo has subido el archivo al repo sería bueno cambiar las claves! :D