Masjid Tua Palopo didirikan oleh Raja Luwu yang bernama Datu Payung Luwu XVI Pati Pasaung Toampanangi Sultan Abdullah Matinroe pada tahun 1604 M.
Masjid yang memiliki luas 15 m² ini diberi nama Tua, karena usianya yang sudah tua. Sedangkan nama Palopo diambil dari kata dalam bahasa Bugis dan Luwu yang memiliki dua arti, yaitu: pertama, penganan yang terbuat dari campuran nasi ketan dan air gula;
Kedua, memasukkan pasak dalam lubang tiang bangunan. Kedua makna ini memiliki relasi dengan proses pembangunan Masjid Tua Palopo ini.
Diceritakan, batu yang digunakan untuk membangun masjid merupakan campuran batu alam dan kapur. Perekatnya menggunkan putih telur.
Arsitektur Masjid Tua Palopo juga sangat unik. Ada empat unsur penting yang melekat dalam konstruksi masjid tua ini, yaitu unsur lokal Bugis, Jawa, Hindu dan Islam.
Pertama, unsur lokal Bugis. Unsur ini terlihat pada struktur bangunan masjid secara keseluruhan yang terdiri dari tiga susun yang mengikuti konsep rumah panggung.
Konsep tiga susun ini juga konsisten diterapkan pada bagian lainnya, seperti atap dan hiasannya yang terdiri dari tiga susun; tiang penyangga juga terdiri dari tiga susun, yaitu pallanga (umpak), alliri possi (tiang pusat) dan soddu; dinding tiga susun yang ditandai oleh bentuk pelipit (gerigi); dan pewarnaan tiang bangunan yang bersusun tiga dari atas ke bawah, dimulai dari warna hijau, putih dan cokelat.
Kedua, unsur Jawa.Unsur ini terlihat pada bagian atap, yang dipengaruhi oleh atap rumah joglo Jawa yang berbentuk piramida bertumpuk tiga atau sering disebut tajug. Dua tumpang atap pada bagian bawah disangga oleh empat tiang, dalam konstruksi Jawa sering disebut soko guru.
Sedangkan atap piramida paling atas disangga oleh kolom (pilar) tunggal dari kayu cinna gori (Cinaduri) yang berdiameter 90 centimeter. Pada puncak atap masjid, terdapat hiasan dari keramik berwarna biru yang diperkirakan berasal dari Tiongkok.
Terdapat dua pendapat seputar bentuk atap Masjid Tua Palopo ini. Yang pertama mengatakan bahwa atap tersebut mendapat pengaruh dari arsitektur Jawa. Sementara yang kedua menolak pendapat itu, dengan berargumen bahwa bentuk tersebut merupakan pengembangan dari konsep lokal masyarakat Sulawesi Selatan sendiri. Namun, mengingat hubungan antara kedua masyarakat telah terjalin begitu lama, wajar jika terjadi akulturasi budaya.
Susunan atap pertama dan kedua disangga empat tiang yang terbuat dari kayu cengaduri, dengan tinggi 8,5 meter dan berdiameter 90 cm. Keempat tiang tersebut dalam konsep Jawa disebut soko guru.
Sementara itu, atap paling atas ditopang dengan satu tiang terbuat dari kayu yang sama. Dalam kearifan lokal Sulawesi Selatan, satu tiang penyangga atap paling atas yang didukung oleh empat tiang lainnya merefleksikan yang sentral (wara) dikelilingi oleh unsur-unsur lain di luar yang sentral (palili).
Ketiga, unsur Hindu.Unsur ini terlihat pada denah masjid yang berbentuk segi empat yang dipengaruhi oleh konstruksi candi. Pada dinding bagian bawah, terdapat hiasan bunga lotus, mirip dengan hiasan di Candi Borobudur. Pada dinding bagian atas juga terdapat motif alur yang mirip dengan hiasan candi di Jawa.
Keempat, unsur Islam. Unsur ini terlihat pada jendela masjid, yaitu terdapat lima terali besi yang berbentuk tegak, yang melambangkan jumlah Salat wajib dalam sehari semalam.
Ukuran bangunan utama Masjid Tua Palopo yaitu 11,9 m x 11,9 m, tinggi 3,64 m dengan tebal dinding 0,94 m yang terbuat dari batu cadas yang direkatkan dengan putih telur. Denahnya berbentuk segi empat yang agaknya dipengaruhi bentuk denah candi-candi di Jawa.
Ada juga mimbar yang dipercaya didatangkan langsung dari Vietnam, sebagai hadiah untuk sang raja kala itu. Mimbar berwarna cokelat itu memiliki beberapa anak tangga. Terdapat sebuah pintu masuk mimbar berbentuk seperti gapura dengan ukiran-ukiran khas Vietnam.
Bentuk segi empat pada Masjid Tua Palopo mengandung makna yang sama dengan bentuk segi empat pada bangunan pendopo atau candi candi, yakni mengandung makna filosofis dan fungsional. Yang pertama berarti bahwa bentuk geometri tersebut sebetulnya. Sedangkan, makna yang kedua melambangkan persamaan dan kesetaraan siapa saja yang berada di dalamnya.
