Isolasi reproduksi (reproductive isolation): Isolasi yang menyebabkan tertutupnya pertukaran gen antara populasi yang mempunyai sifat-sifat genotype yang berbeda, misalnya bentuk alat-alat reproduksi, biologi bunga, atau tingkat fertilitasnya
Pengaruh isolasi geografis dalam spesiasi dapat terjadi karena adanya pencegahan gene flow antara dua sistem populasi yang berdekatan akibat faktor ekstrinsik (geografis). Setelah kedua populasi berbeda terjadi pengumpulan perbedaan dalam rentang waktu yang cukup lama sehingga dapat menjadi mekanisme isolasi instrinsik. Isolasi instrinsik dapat mencegah bercampurnya dua populasi atau mencegah interbreeding jika kedua populasi tersebut berkumpul kembali setelah batas pemisahan tidak ada.
Spesiasi dimulai dengan terdapatnya penghambat luar yang menjadikan kedua populasi menjadi sama sekali alopatrik (mempunyai tempat yang berbeda) dan keadaan ini belum sempurna sampai populasi mengalami proses instrinsik yang menjaga supaya supaya mereka tetap alopatrik atau gene pool mereka tetap terpisah meskipun mereka dalam keadaan simpatrik (mempunyai tempat yang sama).
Mekanisme isolasi intrinsik yang mungkin dapat timbul yaitu isolasi sebelum perkawinan dan isolasi sesudah perkawinan.
Isolasi Sebelum Perkawinan (Prezygotic barrier)
Isolasi sebelum perkawinan menghalangi perkawinan antara spesies atau merintangi pembuahan telur jika anggota-anggota spesies yang berbeda berusaha untuk saling mengawini. Isolasi ini terdiri dari:
1) Isolasi Ekologi (ecological)
Dua sistem yang mula-mula dipisahkan oleh penghambat luar (eksternal barrier), suatu ketika mempunyai karakteristik yang khusus untuk berbagai keadaan lingkungan meskipun penghambat luar tersebut dihilangkan, keduanya tidak akan simpatrik. Setiap populasi tidak mampu hidup pada tempat dimana populasi lain berada, mereka dapat mengalami perubahan pada perbedaan-perbedaan genetik yang dapat tetap memisahkan mereka. Setiap spesies beradaptasi dengan iklim setempat di dalam batas-batas daerah sendiri dan iklim dari keduanya sangat berbeda, sehingga setiap spesies tidak mungkin hidup di tempat spesies yang lain. Jadi, disini terdapat perbedaan-perbedaan genetik yang mencegah gene flow diantara spesies pada keadaan yang alami. Contohnya pada pohon jenis Platanus occidentalis yang terdapat di bagian timur Amerika Serikat dan Platanus orientalis yang terdapat di timur Laut Tengah, kedua spesies ini dapat disilangkan dan menghasilkan hibrid yang kuat dan fertil. Kedua spesies ini terpisah tempat yang berbeda dan fertilisasi alami tidak mungkin terjadi.
2) Isolasi Tingkah laku (Behavioral)
Tingkah laku berperan sangat penting dalam hal courtship dan perkawinan (mating). Tingkah laku juga berperan pada perkawinan acak antar spesies yang berbeda sehingga perkawinan mendapat hambatan oleh terjadinya inkompatibilitas beberapa perilaku sebagai dasar bagi suksesnya perkawinan tersebut. Contohnya pada hewan jantan spesies tertentu memiliki pola perilaku yang spesifik dalam menarik, mendekati dan mengawini pasangannya. Kegagalan perkawinan terjadi karena pasangan merasa asing dengan pola perilaku yang ditunjukkan oleh pasangannya sehingga terjadi penolakan. Selain sekuen perilaku yang spesifik seperti yang ditunjukkan oleh burung bower di mana hewan jantan harus mempersiapkan pelaminan yang penuh dengan aksesoris tertentu agar burung betina mau dikawini. Isolasi perilaku sangat tergantung pada produksi dan penerimaan stimulus oleh pasangan dari dua jenis kelamin yang berbeda. Jenis stimulus yang dominan untuk mensukseskan perkawinan, stimulus tersebut diantaranya adalah:
a. Stimulus visual: Bentuk, warna, dan karakter morfologi lain dapat mempengaruhi stimulus visual. Beberapa hewan seperti kelompok ikan, burung, dan insekta menunjukkan bahwa stimulus visual dominan mempengaruhi ketertarikan pasangan seksualnya. Contohnya pada bebek liar Amerika Serikat yang simpatrik mempunyai courtship display yang baik dan disertai dengan warna yang mencolok pada bebek jantan. Fungsinya adalah untuk memperkecil kesempatan bebek betina memilih pasangan yang salah.
b. Stimulus adaptif: Bunyi nyanyian atau suara lain yang spesifik berfungsi sebagai alat komunikasi antar jenis kelamin yang mengarah pada proses terjadinya perkawinan intra maupun interspesies. Suara-suara yang dikeluarkan oleh insekta, reptilia, burung, dan mamalia banyak yang spesifik untuk tiap spesies.
c. Stimulus kimia/feromon: Feromon merupakan signal kimia yang bersifat intraspesifik yang penting dan digunakan untuk menarik dan membedakan pasangannya, bahkan feromon dapat bertindak sebagai tanda bahaya. Molekul ini spesifik pada individu betina yang dapat merangsang individu jantan dan atau sebaliknya sebagai molekul spesifik yang dihasilkan oleh individu betina untuk menolak individu jantan. Misalnya pada Drosophila melanogaster feromon mempunyai pengaruh pada tingkah laku perkawinan, di mana dengan adanya feromon yang dilepaskan oleh individu betina membuat individu jantan melakuakn aktivitas sebagai wujud responnya terhadap adanya feromon tersebut.
3) Isolasi Sementara (temporal)
Dua spesies yang kawin pada waktu yang berbeda (hari, musim, atau tahun), gametnya tidak akan pernah mencampur. Misalnya hewan singung berbintik (Spilogale gracilis) yang sangat mirip dengan S. putorius ini tidak akan saling mengawini karena S. gracilis kawin pada akhir musim panas dan S. putorius kawin pada akhir musim dingin. Hal yang sama juga terjadi pada 3 spesies dari genus anggrek Dendrobium yang hidup di musim tropis basah yang sama tidak terhibridisasi, karena ketige spesies ini berbunga pada hari yang berbeda.
4) Isolasi Mekanik (mechanical)
Apabila perbedaan struktural diantara dua populasi yang sangat berdekatan menyebabkan terhalangnya perkawinan antar spesies, maka diantara kedua populasi tersebut tidak terjadi gene flow. Isolasi mekanik ditunjukkan oleh inkompatibilitas alat reproduksi antara dua spesies yang berbeda sehingga pada saat terjadinya perkawinan salah satu pasangannya menderita. Mekanisme ini sebagaimana terlihat pada Molusca sub-famili Polygyrinae, struktur genetalianya menghalangi terjadinya perkawinan spesies dalam sub-famili yang sama. Pada tumbuhan isolasi ini terlihat pada tanaman sage hitam yang memiliki bunga kecil yang hanya dapat diserbuki oelh lebah kecil. Berbeda dengan tanaman sage putih yang memiliki struktur bunga yang besar yang hanya dapat diserbuki oleh lebah yang besar.
5) Isolasi Gametis (gametic)
Isolasi gamet menghalangi terjadinya fertilisasi akibat susunan kimiawi dan molekul yang berbeda antara dua sel gamet, seperti spermatozoa yang mengalami kerusakan di daerah traktus genital organ betina karena adanya reaksi antigenik, menjadi immobilitas, dan mengalami kematian sebelum mencapai atau bertemu sel telur. Contohnya pada persilangan Drosophila virilis dan Drosophila americana, sperma segera berhenti bergerak pada saat sampai pada alat kelamin betina, atau bila tidak rusak maka sperma akan mengalami kematian. gambaran lain juga yang terjadi pada ikan, di mana telur ikan yang dikeluarkan dari air tidak akan dibuahi oleh sperma dari spesies lain karena selaput sel telurnya mengandung protein tertentu yang hanya dapat mengikat molekul sel sperma dari spesies yang sama.
Isolasi Setelah Perkawinan (Post-mating isolation/Postzigotic barrier)
Hal ini terjadi jika sel sperma dari satu spesies membuahi ovum dari spesies yang lain, maka barier postzigot akan mencegah zigot hibrida itu untuk berkembang menjadi organisme dewasa yang bertahan hidup dan fertil. Mekanisme ini dapat terjadi melalui:
1) Kematian zigot (zygotic mortality)
Sel telur yang telah dibuahi oleh sperma spesies lain (zigot hibrid) seringkali tidak mengalami perkembangan regular pada setiap stadianya, sehingga zigot tersebut mengalami abnormalitas dan tidak mencapai tahapan maturitas yang baik atau mengalami kematian pada stadia awal perkembangannya. Di antara banyak spesies katak yang termasuk dalam genus Rana, beberapa diantaranya hidup pada daerah dan habitat yang sama, dan kadang-kadang mereka bisa berhibridisasi. Akan tetapi keturunan yang dihasilkan umumnya tidak menyelesaikan perkembangannya dan akan mengalami kematian.
2) Perusakan hibrid (hybrid breakdown)
Pada beberapa kasus ketika spesies berbeda melakuakn kawin silang, keturunan hibrid generasi pertama dapat bertahan hidup dan fertil, tetapi ketika hibrid tersebut kawin satu sama lain atau dengan spesies induknya, keturunan generasi berikutnya akan menjadi lemah dan mandul. Sebagai contoh, spesies kapas yang berbeda dapat menghasilkan keturunan hibrid yang fertil, tetapi kerusakan terjadi pada generasi berikutnya ketika keturunan hibrid itu mati pada saat berbentuk biji atau tumbuh menjadi tumbuhan yang cacat dan lemah.
3) Sterilitas hibrid
Hibridisasi pada beberapa spesies dapat menghasilkan keturunan yang sehat dan hidup normal akan tetapi hibrid tersebut mengalami sterilitas. Terjadinya sterilitas ini disebabkan oleh inkompatibilitas genetik yang nyata sehingga tidak dapat menurunkan keturunannya. Contoh hibrid yang steril antara lain: mule (hibrid antara keledai dan kuda), cama (hibrid antara onta dan ilama), tiglon (hibrid anatara macan dan singa), zebroid (hibrid antara zebra dan kuda).
