جامعه‌ی مدرسین که به‌عنوان یک تشکل سیاسی شناخته می‌شود، ریشه‌های شکل‌گیری‌اش مربوط به‌پیش از انقلاب اسلامی است و در ابتدا هم فاقد این عنوان بود.
به گزارش پایگاه اطلاع‌رسانی مرکز اسناد انقلاب اسلامی، در سال ۱۳۴۲ تعدادی از روحانیون از جمله آقایان سید محمد خامنه‌ای و هاشمی رفسنجانی که در قم زندگی میکردند و به کار تکثیر و پخش اعلامیه‌های امام خمینی مشغول بودند، تصمیم میگیرند فعالیتهای سیاسی خود را متمرکز کنند. لذا قرار می‌گذارند یک هسته مرکزی برای انجام فعالیتهای سیاسی خود تشکیل بدهند.
آن طور که آیت‌الله سید محمد خامنه‌ای در کتاب خاطراتش تعریف کرده، اجرای این تصمیم ضروری بود زیرا «باید هسته‌ی مرکزی پنهان و سری تأسیس می‌کردیم که فکر و طرح و برنامه بدهد و اگر حضرت امام طرحی داشتند و می‌خواستند آن را به مرحله‌ی اجرا دربیاورند این مرکز مجری آن باشد. می‌خواستیم کاری کنیم که فعالیت‌ها متمرکز باشد و موجش تمام عرصه‌ی سیاست کشور را بگیرد.»
سید محمد خامنه‌ای که در آن زمان همسر و فرزندانش را به مشهد فرستاده و نزد خانواده‌اش گذاشته بود تا با خیال راحت به فعالیت سیاسی بپردازد، می‌گوید: چون کتاب‌های انقلابی و چریکی زیادی را مطالعه کرده بود، به‌ویژه کتاب‌هایی که فعالیتهای سیاسی و کارهای زیرزمینی را تعریف می‌کرد، به همین خاطر موضوع را با آقایان اخوی و هاشمی رفسنجانی، که ارتباط صمیمانه‌ای با او داشتند، در میان می‌گذارد و آنان نیز از این ایده استقبال می‌کنند.
سید محمد خامنه‌ای درباره نحوه عضوگیری گفته است:
«آن اوایل هنوز اساسنامه‌ای نداشتیم. قرار شد هرکسی را که به همکاری و عضویت دعوت می‌کنیم به‌اتفاق آرا و نظر گروه باشد. سه‌نفری نشستیم و درباره‌ی نفر چهارم بحث کردیم. گزینه‌ی اصلی برای نفر چهارم آقای ربانی شیرازی بود. چون ایشان شخصیتی شجاع، انقلابی و پرتحرک بود. با توافق یکدیگر ایشان را برای عضویت دعوت کردیم. او از دعوت ما استقبال کرد و از خصوصیات این هسته پرسید. به او گفتیم بدون تشکیلات و تأسیس هسته‌ی مرکزی که مخفیانه فعالیت‌ها را انجام می‌دهد کاری نمی‌توان از پیش برد. ایشان هم استدلال ما را پذیرفت و عضو شد.
آقای ربانی نفر پنجم این گروه را آقای منتظری پیشنهاد کرد. آقای منتظری هم دعوت شد و قبول کرد و نفر ششم این جمع آقای مشکینی بود. اما در یکی از جلسات دیدیم که آقای منتظری دو نفر دیگر را به همراه آورده! آهسته به ایشان گفتم آقا چرا بدون مشورت و رأی گروه آقایان را آوردید؟ گفت دیدم این دو نفر برای تشکیلات مناسب هستند! البته آن‌ها مناسب هم بودند ولی این نشانه‌ی بی‌نظمی و بی‌انتظامی آقای منتظری بود. به ایشان گفتیم قرار ما این نبود. شرط داشتیم که عضویت افراد براساس اتفاق آراء و با موافقت همه‌ی اعضا باشد، ولی ایشان گوشش بدهکار نبود و بدون پیشنهاد قبلی چند نفر دیگر را هم آورد و ناخواسته جمع ما به یازده نفر رسید.
ایشان را به خدا قسم دادیم و اصرار کردیم دیگرکسی را دعوت نکند. تعداد ما نباید از هفت نفر بیشتر باشد؛ اما الان یازده نفر شدیم. افرادی را که آورده بود همه خوب بودند؛ اما هسته‌ی مخفی ظرفیت پذیرش این‌همه افراد را نداشت. تعداد زیاد کار دستمان داد.»
پس از آن، سید محمد خامنه‌ای اساسنامه و مرامنامه تشکل را می‌نویسد و طبق چارت، هر عضو یک مسئولیتی بر عهده می‌گیرد. مثلاً یکی مسئول تبلیغات و یکی خزانه‌دار و یکی مسئول روابط‌عمومی و مسئول تماس با امام، یکی مسئول اطلاعات و امنیت و… باشد. در این میان سید محمد خامنه‌ای مسئولیت اطلاعات و امنیت را انتخاب می‌کند.
در بخشی دیگر از کتاب خاطرات سید محمد خامنه‌ای آمده است: من این اساسنامه را احتیاطاً به زبان عربی نوشتم تا به گمان خودم، زمانی که به دست ساواک افتاد متوجه موضوع نشود. این اساسنامه در اصل با دستخط من بود، ولی به تقاضای من در آنجا فی‌المجلس یکی از دوستان با خط خودش آن را پاک‌نویس کرد و من دست‌نویس خودم را معدوم کردم و از آن نسخه‌ی پاک‌نویس شده چند نسخه کپی گرفتیم و به تک‌تک اعضا دادیم. نسخه‌ی اصلی خط خودم را سوزاندم و یک نسخه‌ی جدید برای خودم گرفتم و در داخل جلد یکی از کتاب‌ها جلد کردم و رویش را کاغذ کشیدم. این کتاب را هم داخل کتاب‌های دیگر گذاشتم. هیچ‌کس نمی‌توانست بفهمد که لای این کتاب چنین اساسنامه‌ای وجود دارد.
کمی پس از آن، تصمیم میگیرند به دیدار مراجع بروند؛ اما نگران واکنش ساواک و لورفتن تشکیلاتشان که مخفیانه بود، می‌شوند؛ لذا تصمیم میگیرند جلسه بزرگی تشکیل بدهند مرکب از فضلا و طلاب همه شهرستان‌ها و استان‌ها که برای حضور در یک جلسه دعوت می‌شوند. سید محمد خامنه‌ای این ماجرا را چنین شرح داده است:
فکر می‌کردیم این شورای چهل یا پنجاه‌نفری خطر را کم می‌کند و ساواک معمولاً نمی‌آید همه‌ی شرکت‌کننده‌ها را دستگیر کند، لذا در آن جلسه ما فکر و طرح می‌دهیم و از آن‌ها می‌خواهیم در اجرا به ما کمک کنند و این جلسه‌ی عمومی سراسری استان‌ها پوششی برای هسته‌ی مرکزی سری خواهد شد.
این پیشنهاد مورد تصویب اعضا قرار گرفت و مقرر شد فضلا و طلبه‌های برجسته‌ی هر استان را شناسایی و برای حضور در جلسه دعوت کنیم. حدود چهل و چند نفر دعوت شدند. قرار شد اولین کاری که در جلسه‌ی عمومی انجام می‌دهیم رأی‌گیری برای انتخاب رئیس باشد. بین خودمان هم قرار گذاشتیم آقای منتظری رئیس شود.
یادم نیست محل جلسه کجا بود؛ اما یادم هست که جلسه‌ی بزرگ و سنگینی تشکیل شد. در آغاز جلسه موضوع انتخاب رئیس مطرح شد و دو سه نفر از جمله آقای منتظری نامزد ریاست شدند و رأی‌گیری آغاز شد. پس از شمارش آراء، دیدیم که آقای منتظری بالاترین رأی را آورد. او را به‌عنوان رئیس اعلام کردند و جلسه ادامه یافت. طبق اظهار دوستان همین شورای عمومی بعدها جامعه‌ی مدرسین نام گرفت. »
