בימי הביניים האמצעיים (בין המאות ה-8 וה-13) שימשה עדן, הנמל הדרומי של תימן, תחנה עיקרית של נתיב המסחר הבינלאומי החשוב ביותר באותם הימים מאגן הים התיכון אל התת-יבשת הודו. על פי אחת המסורות ראשית הקהילה היהודית בהודו ביהודים שהיגרו אליה מתימן, אך ידיעות מבוססות על הגירה יהודית מתימן להודו הן רק מן המאה ה-18 בעקבות התפתחות המסחר בין אירופה להודו דרך ים סוף.
בתקופה זו התפתחה העיר מַוְכַ'א שבים סוף על חשבון נמל עדן. המהגרים היהודים מתימן עסקו תחילה במסחר, אך ברבות הימים מילאו רבים מהם תפקידי דת, כגון שוחטים, מוהלים וחזנים. אף שמספרם היה ניכר בקהילות היהודיות, לא נוצרה מעולם קהילה תימנית בהודו. בראשית המאה ה-19 היגר מצנעא להודו בן למשפחת עראקי ואחד מצאצאיו, אלעזר עראקי, הקים את הדפוס העברי הראשון בהודו. נראה שיסודות לא מעטים בתרבות תימן, בייחוד בדרומה וכולל ביהודיה, מקורם בתרבויות הודו.