Чтобы удалить проект из сервиса TFS нужно вызвать командную строку Developer Command Prompt (ищите в программах, появляется вместе с установленной Visual Studio)
И выполнить команду :
TFSDeleteProject /force /collection:https://YOUR_NAME.visualstudio.com/DefaultCollection PROJECT_NAME
После этого произойдёт удаление проекта.
Еще хороший способ, через web панель описан тут http://stackoverflow.com/a/19430842
P.S.
Если в имени проекта есть пробелы, то заключите имя в двойные кавычки, например - "Project Name"