נוסדה ב-1970 על ידי עובדיה בן-שלום, שהיה פעיל תרבות וחברה במסגרת ההסתדרות הכללית ושימש כנשיאה עד לפטירתו. מטרתה לתעד, לחקור ולהחיות ערכי תרבות ואמנות של שבטי ישראל, ובעיקר של יהדות תימן. ממטרה זו נגזרו יעדים אלה: קירוב צעירים ל"מורשת בית אבא", טיפוח הפולקלור, עידוד יוצרים וסופרים, הוראת מורשת יהדות תימן באוניברסיטאות ובמכללות, קידום חקר מורשת יהודי תימן ועדן, לימוד טעמי המקרא בנוסח תימן, ועוד.
האגודה פעילה ביותר בקרב יוצאי תימן ובמסגרתה נערכים כנסים מדעיים בינלאומיים במורשת יהודי תימן בארץ ובחו"ל ואירועי תרבות ובידור בנוסח יהודי תימן. ליד האגודה קיימים מכון המחקר "המש"י" (הנצחת מורשת שבטי ישראל), בטאון האגודה תהודה וכתב העת המדעי תימא. ב-2023 צירפה האגודה לעצמה את השם "תימא". כיום משמש ד"ר יגאל בן שלום כנשיא האגודה. פעילותה של האגודה רבה בהוצאת ספרים ומחקרים בנושאי מורשת יהדות תימן.