Серж родился в Ливане 21 августа 1967 года и провёл там детство. В возрасте 8 лет вместе с родителями и младшим братом Севагом он переехал в Лос-Анджелес, где начал заниматься музыкой в армянской школе «Rose & Alex Pilibosl», одновременно изучая маркетинг.

В Лос-Анджелесе он примкнул к большому армянскому сообществу. У него есть собственный лейбл Serjical Strike Records, а кроме того он опубликовал свою книгу стихов «Cool Gardens». Серж оплачивал первые издания книги за счёт своей небольшой фирмы по производству программного обеспечения «Ultimate Solutions».

В 1994 Танкян познакомился с Дароном Малакяном, вместе они организовали группу «Soil», в состав которой вошёл также барабанщик Энди (Андраник Хачатурян) (потом из-за разногласий он покинул группу). Впоследствии Танкян и Малакян знакомятся с Шаво Одаджяном, который на тот момент времени работал в банке и учился в той же музыкальной школе, что и Серж. Временно он стал их менеджером, но позже бросил работу и стал бас-гитаристом. Таким образом произошло создание группы «System of a Down», в состав которой вошёл также барабанщик Джон Долмаян. В 2005 году они снова встречаются. Но они уже состоявшиеся люди, почти у каждого есть свой бизнес (от небольшого кафе до звукозаписывающей компании). Так выходит в свет альбом «Mezmerize», а затем и «Hypnotize».

Сольный проект Сержа Танкяна — его дебютный альбом Elect The Dead, состоящий как из старых песен, по тем или иным причинам не вошедших в репертуар System Of A Down, так и совершенно нового материала, вышел 23 октября 2007 года. На концертный тур в поддержку своего альбома Танкян планирует собрать состав, который будет называться Serj Tankian And The FCC. Тур в поддержу альбома начался 12 октября 2007 года в Чикаго.

Серж Танкян принимал участие в записи альбома «Profanation» группы Билла Ласвелла «Praxis», вышедшего в 2008 году.