ชมรมมุสลิม มหาวิทยาลัยสงขลานครินทร์ วิทยาเขตหาดใหญ่ เป็นชมรมหนึ่งที่ก่อตั้งมายาวนาน เนื่องด้วยความจำเป็นจากหลักการของศาสนาที่กำหนด เช่น เรื่องการรับประทานอาหารที่ถูกต้องตามหลักการศาสนาอิสลาม หรือเรื่องการปฏิบัติศาสนกิจร่วมกัน

ก่อนที่จะก่อตั้งชมรมมุสลิมฯ อย่างเป็นทางการนั้น มีการรวมกลุ่มกันมาก่อน มีลักษณะเป็นการรวมกลุ่มเล็กๆ ต่อมามีการยื่นคำร้องขอจัดตั้งชมรมมุสลิมอย่างเป็นทางการเป็นครั้งแรก โดยใช้ชื่อ “ชมรมมุสลิมมหาวิทยาลัยสงขลานครินทร์ วิทยาเขตหาดใหญ่” (Muslim Student Club of Prince of Songkla University, Hat Yai Campus) และใช้ “อัล กะอ์บะฮ์” เป็นตราสัญลักษณ์ของชมรม (ภาพที่ 3) ทั้งนี้เพื่อแสดงถึงจุดยืนในฐานะมุสลิม การรวมตัวกัน และความเป็นอันหนึ่งอันเดียวกันของอิสลาม

ประธานชมรมคนแรก คือ นายอสิ มะหะมัดยังกี นักศึกษาคณะแพทยศาสตร์ โดยมีอาจารย์อภิชาต ธรรมรักษ์ อาจารย์ภาควิชาชีววิทยา คณะวิทยาศาสตร์ เป็นอาจารย์ที่ปรึกษาของชมรมฯ ใน พ.ศ. 2521

จำนวนสมาชิกในยุคนี้มีไม่มากนัก เพราะนักศึกษามุสลิมในมหาวิทยาลัยมีจำนวนน้อย ห้องชมรมมุสลิมฯ ตั้งอยู่ที่ชั้น 2 ของโรงอาหารในสมัยนั้น ที่เรียกว่า “คาเฟตฯ” (ประธานชมรมมุสลิมฯ, สัมภาษณ์วันที่ 23 กุมภาพันธ์ 2555)