Тоқаев бірауыздан Қазақстан парламенті сенатының төрағасы болып сайланды

1975 жылы Мәскеу мемлекеттік халықаралық қатынастар институтын бітірісімен КСРО Сыртқы істер министрлігінде қызмет атқарып, Сингапур Республикасындағы кеңестік елшілікке жолданды. 1979 жылы КСРО Сыртқы істер министрлігінің аппаратына қайта оралды. 1983 жылы Пекин лингвистикалық институтындағы тіл курстарына қатысу үшін Қытай Халықтық Республикасына аттанды. 1984-1985 жылдары Сыртқы істер министрлігінде қызметте болды. Одан кейін Пекиндегі кеңестік елшілікке жолданып, онда 1991 жылға дейін екінші хатшы, бірінші хатшы және кеңесші лауазымдарына тағайындалды. 1991 жылы Мәскеудегі КСРО Сыртқы істер министрлігінің Дипломатиялық академиясының дипломатиялық басшы кадрлар біліктілігін арттыру курстарына түсті.

1992 жылы Қ-Ж.Тоқаев Қазақстан Республикасы Сыртқы істер министрінің орынбасары болып тағайындалды. Ол 1993 жылы Сыртқы істер министрінің бірінші орынбасары және 1994 жылы Сыртқы істер министрі болды. 1999 жылдың наурыз айында Премьер-министрдің орынбасары болып тағайындалды. 1999 жылдың қазан айында, Парламенттің келісімімен, Қазақстан Республикасы Президентінің Жарлығына сәйкес Премьер-министр лауазымына тағайындалды. 2002 жылдың қаңтарында отставкаға кетіп, кейіннен Мемлекеттік хатшы – Сыртқы істер министрі болып тағайындалды. Сыртқы істер министрі ретінде 2007 жылдың қаңтарына дейін қызмет атқарып, кейін Қазақстан Республикасы Парламенті Сенатының Төрағасы болып сайланды.

Сыртқы істер министрі ретінде Тоқаев ядролық қаруды таратпау ісіне белсене атсалысты. Ядролық қаруды таратпау туралы шарттың 1995 және 2005 жылдардағы шолу конференцияларына қатысқан. 1996 жылы ол Нью-Йоркте Ядролық сынақтарға жалпыға бірдей тыйым салу туралы шартқа (ЯСЖТШ), ал 2005 жылы Семейде – Орталық Азиядағы ядролық қарудан азат аймақ құру туралы шартқа (ОАЯҚААШ) қол қойды. Қ-Ж.Тоқаев БҰҰ Бас Ассамблеясының он сессиясының жұмысына атсалысты. Қ-Ж.Тоқаев Тәуелсіз Мемлекеттер Достастығы және Шанхай ынтымақтастық ұйымының Сыртқы істер министрлері Кеңесінің Төрағасы болып сайланған.

Қазақстан Парламенті Сенатының Төрағасы ретінде ЕҚЫҰ Парламенттік Ассамблеясының Вице-Президенті болып сайланған.

2011 жылғы наурызда Біріккен Ұлттар Ұйымының Бас Хатшысы Тоқаевты Бас хатшының орынбасары және Біріккен Ұлттар Ұйымы Бас хатшысының Қарусыздандыру жөніндегі конференциядағы жеке өкілі рангінде Біріккен Ұлттар Ұйымының Женевадағы Бөлімшесінің Бас директоры етіп тағайындау туралы шешімін жария етті. Сонымен қатар, Қарусыздандыру жөніндегі конференцияның Бас хатшысы лауазымын иеленеді. Ол БҰҰ-ның Швейцариядағы қызметкерлерінің қауіпсіздігін қамтамасыз етуге жауапты аға лауазымды тұлға болып табылады.

Қ-Ж.Тоқаев саяси ғылымдар докторы. Халықаралық қатынастар сұрақтары бойынша алты кітап пен бірқатар мақалалардың авторы. Сондай-ақ, ол Ресей Федерациясының Сыртқы істер министрлігі Дипломатиялық академиясының құрметті профессоры және докторы, әрі оның Қамқорлық кеңесінің мүшесі. Женева дипломатия және халықаралық қатынастар мектебінің Құрметті деканы.

Орыс, ағылшын және қытай тілдерін еркін меңгерген, француз тілін біледі. саласында ұзақ жыл жасаған адал еңбегі үшін бірнеше рет мемлекеттік наградаларымен және құрмет грамоталарымен марапатталды, мәселен, «Қазақстан Конституциясына 10 жыл», «Астананың 10 жылдығы», «Сот жүйесінің құрметті қызметкері». 2010 жылы «Үш би» белгісімен марапатталды.