درس الترابي الحقوق في جامعة الخرطوم و حصل على دكتوراه الدولة من جامعة السوربون في باريس عام 1964.
يتقن الترابي أربع لغات هي العربية، والإنجليزية، والفرنسية، والألمانية.
عمل الترابي أستاذاً في جامعة الخرطوم ثم عين عميداً لكلية الحقوق بها، ثم عين وزيراً للعدل في السودان في عام 1988.
ثم عين وزيراً للخارجية السودانية. كما اختير رئيساً للبرلمان في السودان عام 1996.
وقد اعتبر الترابي لسنوات عديدة من أبرز الشخصيات السياسية السودانية المثيرة للجدل كما اعتبر القوة التي مكنت الرئيس عمر البشير من الوصول الى سدة الحكم.
تعددت أماكن دراساته بدءا من الحقوق في جامعة الخرطوم، مرورا بحصوله على درجة الماجستير من جامعة أكسفورد البريطانية عام 1957، وحتى دكتوراة الدولة من جامعة السوربون، بالعاصمة الفرنسية باريس عام 1964.
انضم الترابي إلى جماعة الإخوان المسلمين، وأصبح من زعمائها في السودان في نهاية ستينات القرن الماضي، لكنه انفصل عنها فيما بعد وعمل بشكل مستقل.
أما المناصب التي تقلدها فقد كان الترابي أستاذاً في جامعة الخرطوم، ثم عين عميداً لكلية الحقوق بها، ثم شغل منصب وزير العدل في بلده.
وفي عام 1988 عين وزيراً للخارجية السودانية، واختير بعدها بثمان سنوات رئيساً للبرلمان وظل في هذا المنصب حتى عام 1998 ليكون الأمين العام للمؤتمر الوطني الحاكم.
نشب خلاف بينه وبين الرئيس السوداني عمر البشير، تطور حتى وقع انشقاق في كيان النظام 1999، فخلع الترابي من مناصبه الرسمية والحزبية، وأسس عام 2001 "المؤتمر الشعبي".
يرى فيه أنصاره سياسيا بارعا وخطيبا مؤثرا وداعية ومفكرا، في حين يراه خصومه شخصا له طموح لا حدود له كما يتهم الترابي بإصدار فتاوى تخرج عن السياق.