Kaum ini memiliki hubungan erat dengan india bagian utara yang pernah ada 1000 tahun lalu, kelompok ini meninggalkan india dengan alasan yg kurang jelas, namun sejumlah pakar mengatakan kaum ini meninggalkan india karena konflik militer yang tak kunjung usai.menurut catatan sejarah orang-orang yang lantas dikenal dengan orang Rom ini memasuki Eropa sebelum tahun 1300 M melalui Persia dan Turki.

Pada awal-awal kedatangan di Eropa hingga jangka waktu yang lama orang Rom cenderung tidak mau berbaur. Hal demikian bisa dimengerti mengingat latar belakang orang Rom yang dulunya hidup dalam masyarakat India yang terbagi dalam kasta. Cara hidup orang Rom yang mengisolasi diri dan tidak mau bergaul menimbulkan kecurigaan bagi warga asli. Tidak hanya sebatas curiga warga asli cenderung bersikap antipati.

Dalam telusur sejarah telah terjadi banyak diskriminasi dan penganiayaan terhadap kaum Gipsi ini. Mereka dikucilkan dengan cara dipaksa mendirikan kemah di luar perkampungan warga asli, dilarang menimba air di perkampungan dan dilarang masuk kampung untuk berbelanja kebutuhan hidup sehari-hari.

Kecurigaan dan tuduhan-tuduhan negatif terhadap kaum Gipsi terus saja mengalir. Mereka juga dituduh sebagai kaum pencuri dan kaum penculik anak-anak. Pada masa tertentu di masa lalu etnis ini juga sering dihadapkan pada hukum yang mewajibkan mereka memasak di tempat terbuka dengan tujuan agar siapapun yang ingin tahu bisa mengecek langsung isi belanganya.

Dan tidak jarang pemeriksaan dilakukan dengan cara-cara barbar dengan menumpahkan isi belanga ke tanah.Penganiayaan juga menimpa kaum Gipsi ini. Meraka diusir dari beberapa wilayah di Eropa dan selama berabad-abad diperbudak. Perbudakan terhadap etnis ini berakhir pada tahun 1860-an. Setelah itu mereka tersebar ke Eropa Barat dan Amerika.

Beberapa wanita Rom memanfaatkan reputasi bahwa mereka memiliki kekuatan supernatural, sering kali pura-pura memilikinya untuk tujuan komersial. Kebiasaan berpindah-pindah ini juga meminimalkan risiko pencemaran budaya atau moral akibat terlalu banyak kontak dengan gadje—bahasa Romani untuk “non-Rom”. Meskipun ada orang Rom yang berpegang kukuh pada banyak tradisi, mereka sering kali memeluk agama mayoritas di daerah mereka tinggal.

Sementara itu, prasangka menimbulkan penganiayaan. Orang Rom diusir dari beberapa bagian di Eropa. Di daerah-daerah lain, orang Rom diperbudak selama berabad-abad. Setelah perbudakan tersebut berakhir pada tahun 1860-an, orang Rom semakin tersebar, sebagian besar ke Eropa Barat dan Benua Amerika. Ke mana pun mereka pergi, mereka membawa serta bahasa, kebiasaan, dan bakat mereka.

Bahkan dalam keadaan tertindas, orang Rom kadang-kadang merasakan kepuasan hingga taraf tertentu dengan mempertunjukkan kesenian mereka. Di Spanyol, pembaruan kebudayaan Rom dengan kebudayaan lain menghasilkan musik dan tarian flamenco, sedangkan di Eropa Timur para pemusik Rom mengadopsi lagu-lagu rakyat setempat, menambahkan gaya khas mereka sendiri.

Nada-nada penuh emosi dari pertunjukan musik orang Rom mempengaruhi bahkan para komponis musik klasik, termasuk Beethoven, Brahms, Dvořak, Haydn, Liszt, Mozart, Rachmaninoff, Ravel, Rossini, Saint-Saëns, dan Sarasete