יהודי תימן, כמו כמה קהילות יהודיות אחרות בארצות האסלאם, קיימו את מצוות הייבום. בדרך כלל העדיפו שהאשה תתייבם לגדול שבאחי הנפטר ("מצווה בגדול לייבם", יבמות דף כד,א). אם מסיבה כלשהי לא רצה ליבמה, ייבמה האח הבא אחריו, וכן הלאה. אם היה קטן, המתינו עד שיגדל ויהא ראוי לייבם. השתדלו לקיים מצווה זו אף שהיתה אפשרות לחלוץ ("מצוות ייבום קודמת למצוות חליצה", משנה א,ז). הבן הנולד לאשה שהתייבמה נקרא על שם בעלה הראשון. הייבום היה אחד המקרים שהביא לביגמיה, שהרי היא בוצעה גם כאשר האח המייבם היה כבר נשוי.