كان أحمد قد تعلم الحديث أول ما تعلم من أبي يوسف أحد أصحاب أبي حنيفة .. وكان أبو يوسف قاضي قضاة الدولة، وله حلقة درس يعلم فيها الناس .. وقد بهر أحمد بعلم أبي يوسف، وأعجب بجرأته في الحق .. وكان أحمد لا يفتأ يذكر بإكبار ما صنعه أبو يوسف مع وزير الخليفة، إذ رد شهادة الوزير قائلا: "لا نقبل شهادة الوزير لأنه قال للخليفة أنا عبدك!.. فإن كان صادقا فهو عبد ولا تقبل شهادة العبد، وإن كان كاذبا أو منافقا، فلا شهادة لكاذب أو منافق!".
على أن أحمد بن حنبل على الرغم من إكباره لأستاذه أبي يوسف، لم يجد عنده كل ما يريد من حديث .. فقد كان أبو يوسف من أصحاب الرأي .. وأحمد بعد أن حفظ القرآن يريد أن يحفظ كل الآثار التي خلفها الثقات من رواة الأحاديث .. فما ترك أحمد أبا يوسف قاليا له، فقد شارك أبو يوسف في صياغة وجدان أحمد وضميره الديني والاجتماعي، ولكنه ترك بحثا عما عند غيره وهو على مودة معه. ودرس علي عبد الله بن المبارك، وكان فقيها واسع العلم، واسع الغنى في آن واحد .. ولقد حاول ابن المبارك أن يعين أحمد بن حنبل بالمال، ولكنه أبى وقال إنه يلزمه لفقهه وعلمه لا لماله، بل على الرغم من ماله!!
وقد تعود ابن المبارك أن ينفق كل دخله على الصدقات وطلاب العلم. وكان زاهدا .. والزهد عنده التقوى .. يعلم الناس أن العالم الذي يشيع علمه بين الناس افضل ألف مرة من الذي ينقطع للعبادة .. وقد حكى أحد معاصريه أنه رأى بعيرين يحملان دجاجا مشويا لسفرة ابن المبارك، وكان يطعم الناس الفالوذج، ويأكل هو الخبز والزيت، فإذا اشتهى طعاما ما طيبا لم يأكله إلا مع ضيف .. ويقول: "بلغنا أن طعام الضيف لا حساب عليه." .. وقيل له: "قل المال فقلل من صلة الناس" فقال: "إن كان المال قد قل، فإن العمر قد نفد." وكان يقول: "ليس يلزمني من الدنيا إلا قوت يوم فقط" .. من أجل ذلك أحب الناس عبد الله بن المبارك، والتفوا حوله حتى إنه قدم الرقة وبها هارون الرشيد، فاجتمع الناس وتزاحموا احتفالا به حتى "تقطعت النعال وارتفع الغبار"، فأشرفت زبيدة زوج هارون الرشيد من قصرها، فلما رأت زحاما لم تره قط سألت: "ما هذا؟" قالوا "الفقيه العالم عبد الله بن المبارك". فقال: "والله هذا هو الملك، لا ملك هارون الرشيد الذي يجمع الناس إليه بالسوط والعصا والشرطة والأعوان" ..
وكان أحمد من المعجبين بالعالم عبد الله بن المبارك، كان معجبا بشخصه وبفقه وعلمه وبسيرته بين الناس .. وعبد الله بن المبارك هو أحد الذين أثروا في أحمد بن حنبل وفي تشكيل فكره وسلوكه ومواقفه .. فقد أدرك أحمد في مطلع شبابه مما تعلمه من ابن المبارك أن الدعوة إلى الفقر ليست زهدا، وإنما هي تمكين للأغنياء من المال، ليكون المال دولة بين الأغنياء .. وأن الزهد الحق هو ما سنه الرسول عليه الصلاة والسلام، وتابعه فيه أئمة الصحابة من بعده .. وليس الإعراض عما أحل الله، بل التعفف عن النظر أو التفكير فيما حرمه الله أو اشتهاء ما يكرهه .. الزهد هو التقوى.
تحمل أحمد المشقات، وخاض الغمرات، بحثا عن الأحاديث الصحاح يواجه بها ألوان البدع .. ثم إنه خرج إلى طرطوس مرابطا مستعداً للجهاد، ولبث فترة هناك ثم عاد إلى بغداد، فقد كان يرى الجهاد فريضة على كل قادر: الجهاد بالنفس أو المال أو بهما جميعا. كان العصر زاخر بالعلوم والمعارف، وكان الفقهاء من قبله يعنون بها ويتعلمونها، ولكنه لم يجد منهم أحد يتخصص في علوم الحديث، ويتوفر على الآثار وحدها، فوهب نفسه لإتقان علوم السلف فحسب، لأنه شعر بأن الأمة في حاجة إلى هذا التخصص.
وظل يرحل ماشيا في طلب الحديث إكبارا للغاية التي يسعى إليها أو عجزا عن النفقة، يحمل فوق ظهره متاعه وكتبه، ويؤجر نفسه للعمل إن نفد زاده .. حتى جمع آلاف الأحاديث، وهو ما يفتأ على الرغم من ذلك يجوب الآفات، حتى نحل جسده، فلامه في ذلك أحد أصدقائه قائلا: "مرة إلى الكوفة ومرة إلى البصرة ومرة إلى الحجاز ومرة إلى اليمن؟! .. إلى متى؟!" فقال أحمد: "مع المخبرة إلى المقبرة."
وما كان لينتهي مهما تكن المشقة .. فقد كان يطلب من الحديث علوم الفقه .. كان يطلب فقه الخلفاء الراشدين، وفقه سائر الصحابة، وفقه التابعين وتابعيهم بإحسان .. وقد جلس في رحلاته إلى الحجاز في مواسم الحج إلى كل فقهاء عصره .. في المسجد الحرام، وفي الحرم النبوي .. على أن أحدا لم يجذبه كما جذبه الشافعي!.. واتصلت بينهما المودة منذ لقيه لأول مرة في المسجد الحرام ..