Suku yang berada di Kepulauan Flores merupakan percampuran antara etnis Melayu, Melanesia, dan Portugis. Flores identik dengan kebudayaan Portugis karena pernah menjadi koloni portugis. Nama Flores itu sendiri berasal dari bahasa Portugis yaitu “cabo de flores“ yang berarti “Tanjung Bunga”. Nama itu semula diberikan oleh S.M. Cabot untuk menyebut wilayah timur dari Pulau Flores. Namun pada akhirnya dipakai secara resmi sejak tahun 1636 oleh Gubernur Jenderal Hindia Belanda, Hendrik Brouwer.
Sebuah studi yang cukup mendalam oleh Orinbao (1969) mengungkapkan bahwa nama asli Flores sebenarnya adalah Nusa Nipa (Pulau Ular), yang dari sudut antropologi, istilah ini lebih bermanfaat karena mengandung berbagai makna filosofis, kultural, dan ritual masyarakat Flores.
Perjanjian Saragosa tahun 1529, Spanyol menyerahkan kekuasaan atas wilayah rempah-rempah (Maluku) kepada Portugal dengan ganti rugi 350.000 dukat.
Selain berdagang rempah-rempah, orang Portugal juga dalam perjalanan mencari rempah-rempah, mereka menemukan pulau Timor dengan hasil Cendana Putih. Cendana ini ditukar dengan Sutra dan Porselin dari China.
Sutra dan Porselin sangat mahal di Pasar Eropa. Oleh karena sulitnya memperoleh Cendana di Timor, karena suku-suku di Timor yang sudah terbiasa bergaul dengan pedagang Asia, telah bersatu mendirikan negara-negara kecil dengan memonopoli perdagangan dan berhasil menghalangi pedagang asing mendirikan pemukiman yang tetap.
Menghadapi situasi ini, orang-orang Portugis mencari tempat-tempat yang nyaman untuk didirikan benteng-benteng yang kokoh. Sebagai tempat persinggahan perjalanan dari Timor sekaligus sebagai pengawasan atas jalan laut.
Berdasarkan Surat Pater Baltazar Dias, Imam Jesuit, 1559. Telah ada 300 orang Kristen di Solor dan Flores, termasuk Raja Solor dan orang ternama lainnya. Maka tahun 1562 biarawan Dominikan dan pedagang Portugal membangun sebuah benteng di Lohayong-Solor. Namun benteng ini setahun kemudian diserang dan dibakar oleh orang-orang Muslim dari Jawa.
Tahun 1566 dibangun lagi di tempat ini, benteng lebih kokoh dilengkapi dengan beberapa pucuk meriam. Juga menjadi pusat kegiatan misionaris Dominikan yang hanya dalam setahun telah mencapai 2500 orang Katolik di Flores, Solor dan Adonara.
Rupanya yang membuat runtuhnya pertahanan Benteng Lohayong adalah konflik antara misionaris Dominikan dan pedagang Portugal. Hubungan baik yang menguntungkan antara para pedagang Portugal dengan rekan-rekan pedagang Muslim, sering dirusak oleh para misionaris.
Maka tahun 1598, ketika terjadi konflik antara dua kelompok di Solor, mereka memihak salah satu kelompok. Tak pelak konflik meluas dan terjadilah pemberontakan penduduk Solor, lalu benteng diserang dan dibakar.
Kebanyakan pedagang meninggalkan Solor menuju pantai timur Flores dan membangun pusat perdagangan baru, Kota Pelabuhan Larantuka dibawah perlindungan Raja Larantuka. Sedangkan pertahanan Portugal hanya tersisa benteng Ambon. Belanda dalam tahun 1605 berhasil merebutnya dan mengusir Portugal keluar dari Maluku di bawah pimpinan Jendral Arnold de Vlaming van Oudtshoorn.
Tahun 1613, Kapten Belanda, Apollonius Scotte, dikirim ke Solor untuk merebut Benteng Lohayong dengan 2 armada kapal. Serangan berhasil, banyak orang Portugal ditangkap dan dibawa ke Malaka. Namun beberapa orang Portugis berhasil lolos bersama rohaniwan Katolik dan banyak pribumi Katolik melarikan diri ke Larantuka
Benteng Lohayong oleh Belanda diubah namanya menjadi Henricus XVII. Tak lama kemudian Scotte, Komandan Belanda pertama Benteng Lohayong, mati tenggelam ketika mandi. Penggantinya Van Der Velde, gugur dalam suatu ekspedisi menumpas suatu Kampung Katolik di Pulau Adonara. Penggantinya, da Costa membelot ke Portugal di Larantuka. Dengan bantuan komandan pembelot ini, Portugal berusaha merebut benteng Lohayong, tetapi tidak berhasil. Namun orang Belanda meninggalkan benteng itu, kemudian merebutnya kembali tahun 1618.
Tahun 1622 Jan Thomaszoon Dayman diangkat menjadi komandan benteng. Bersama istrinya seorang perempuan Solor, serta anak-anaknya, mereka pergi menetap di Larantuka dan beralih menjadi Katolik. Penggantinya, Jan de Hornay [Keturunan Eurasia/Yahudi]. Keberatan terhadap kepemimpinannya terus berkembang dan ketika ia akan ditangkap, ia melarikan diri ke Larantuka tahun 1628 dan mengawini seorang pribumi dan menjadi seorang pedagang yang sangat kaya.
Tahun 1630, Portugal berhasil merebut benteng Lohayong dan menempatkan sebuah Garnisum kecil di situ, yang juga beranggotakan beberapa serdadu Afrika dari Mosambik. Pusat misi pun dipindahkan kembali ke Lohayong. Ketika Belanda hendak melakukan serangan dalam tahun 1636, garnisum itu menyerah tanpa perlawanan. Hal itu disebabkan biaya pemeliharaan benteng tidak sepadan dengan kegunaannya untuk perdagangan. Maka pusat perdagangan dan misi, dipindahkan kembali ke Postoh-Larantuka.
Tahun 1646 VOC memutuskan untuk mengirimkan lagi satu pasukan untuk mempertahankan benteng itu. Ketika sebuah gempa bumi besar menghancurkan benteng itu di tahun 1648, orang Belanda hanya mengadakan perbaikan darurat, tidak memugar kembali secara besar-besaran. Ditambah lagi dalam tahun 1653 mereka berhasil merebut benteng Portugis di Kupang dan dinamai Concordia. Dengan demikian Belanda menetap dengan kokoh di Pulau Timor. Solor tidak mempunyai arti lagi dari segi militer. Selain itu, Larantuka sudah lama melampaui pemukiman Solor sebagai pusat perdagangan.