על פי מסורת האסלאם הורה מוחמד לג'בל אבן מועאד, שכבש בשמו את תימן, שלא לכפות את הדת החדשה על יהודי הארץ. אף על פי כן יהודים לא מעטים התאסלמו, רובם ככולם מצאצאי החמיירים שקיבלו עליהם את היהדות כמה דורות קודם לכן. בין המומרים היו כמה תלמידי חכמים עוד ביהדותם. הם מילאו תפקיד מפתח בהעברת מסורות יהודיות מן היהדות אל האסלאם, בעיקר אלו הידועות בשם "אסראיליאת" (הישראליות).
המפורסמים שבם היו כעב אלאחבאר, עבדאללה אבן סבא, וכן והב אבן מנבה, שכבר נולד לאב מוסלמי. עד המאה ה-17 הייתה תופעת ההתאסלמות בקרב יהודי תימן נדירה למדי, אך היא התרבתה במאות השנים האחרונות בגלל החמרת היחס ליהודים מצד השלטון הזיידי, שנקט בקשת רחבה של אמצעים להביאם לאיסלאם, כגון גזירת היתומים, שחרור מעונש ואפילו מעונש מות לנאשם יהודי, וכן הספקת מזון בתקופות רעב תמורת התאסלמות. בדרום תימן היו ידועים כפרים אחדים, שעל פי המסורת המקומית, מוצאם ביהודים שהתאסלמו (מֻהְתַּדִּיין).