وهذا هو الأرجح حسب أغلب المؤرخين لأنه لا يحتمل أن تكون مدينة تونس قد بقيت بدون جامع بين فتحها وبين سنة 116هـ وبناء على هذا فإن عبيد الله بن الحبحاب يكون قد أتم فقط عمارة الجامع وزاد في ضخامته.
لقد اختلفت الروايات حول تحديد من قام ببناء هذا الجامع الذي بات ذكر تونس مقترنا به ، ومكّن افريقية من سبق تأسيس أول جامعة علمية إسلامية. فالبكري في كتابه «المسالك والممالك» وابن خلدون في كتابه « العبر» وكذلك السرّاج صاحب «الحلل السندسيّة في تاريخ البلاد التونسيّة» وحسن حسني عبد الوهاب في كتابه «خلاصة تاريخ تونس» يرون أن باني الجامع هو عبيد الله ابن الحبحاب سنة 116 هـ / 731 م.
أما المؤرخ التونسي أحمد بن أبي الضياف في كتابه «اتحاف أهل الزمان بأخبار ملوك تونس وعهد الأمان» فإنه يرى أن بانيه هو حسّان بن النعمان سنة (84 هـ). وقد أصاب ابن أبي دينار في كتابه (المؤنس في تاريخ إفريقية وتونس) حين غزا تأسيس المسجد إلى حسان
بن النعمان والزيادة في ضخامته إلى عبيد الله بن الحبحاب. وهناك من يرى أن حسّان بن النعمان قد بنى مسجدا صغيرا بالقرب من جامع الزيتونة ومن ثمّ فإنّ فكرة تأسيس المسجد يمكن أنّها كانت لحسّان لكن البناء لم يبدأ إلا في عهد عبيد الله.
واختلف المؤرخون أيضا في تحديد سنة بناء الجامع ، فمنهم من قال ان ذلك كان سنة (114 هـ) إلا أن البعض وبالرّجوع الى تاريخ دخول ابن الحبحاب الى افريقية واليا عليها (116 ـ 123 هـ/736 ـ 742م) رجّح أن يكون تاريخ بناء جامع الزيتونة هو سنة (116 هـ) وقد رجح ابن أبي الضياف في كتابه «الإتحاف» هذا الرأي الذي تؤكده جلّ المؤلفات المشرقية منها كتاب «الكامل» لابن الأثير. لكن الثابت والأكيد أن أمراء الدولة الأغلبية في القرن الثالث الهجري قد قاموا بتوسيعه وتحسين هندسته وزخرفته ومرافقه.
يقول عنه السّراج في كتابه «الحلل السندسية»: «جامع الزيتونة مسجد اذا بدا لك تبلّج نوره اللامع أيقنت أنه الجامع المفرد والمفرد الجامع... ما سرح ناظر المؤمن في أثنائه الا امتلأ علما من بادرات ثنائه يحاكي بجماله أجمل عروس صيغ لها من معادن الطروس قائد حلق الدروس ، لا عيب فيه غير أنه غدا بين أقرانه بمرتبة الصدر واختص بأن يشرح لوارديه الصدر فما ضاق صدر مهموم ودخله إلاّ انفرج وانفتحت له بلطيف عنايته أبواب الفرج».
من جهته ذكر العالم الطرابلسي محمد بن مصطفى الأزهري إثر زيارته الى تونس وقد أورده ابن دينار في كتابه «المؤنس» : «لو سئلت عن ثلاث لأجبت بلا ولو قطع رأسي لو قيل لي هل رأيت أسرّ من جامع الزيتونة ؟لقلت لا وهل رأيت أصلح من الشيخ ابراهيم اللقاني ؟لقلت لا وهل رأيت أكرم من حمودة باشا ألمرادي؟ لقلت لا....