המוזיקה של יהודי תימן השפיעה במיוחד על התפתחותה של המוזיקה הישראלית, משום שהיא נתפסה בעיני העולים החדשים המוקדמים כקישור לשורשיהם התנ"כיים. המוזיקה של העברים הקדמונים, כתב המוזיקולוג א.ז. אידלסון, "נשמרת בזיכרון ובפועל במרכזים יהודיים שונים. היה שם קהילה יהודית תימנית בפלסטין לפני 1900 , והחלוצים האירופיים שהגיעו בשנות ה-20 התאהבו בסגנון התימני. בשנות ה-30 וה-40, הזמרת התימנית ברכה צפירה חקרה והקליטה שירים תימניים רבים, וכן שרה יצירות מקוריות בסגנון תימני. דוגמה לכך היא השיר "שתו האדרים" עם מילים של אלכסנדר פן ולחן של נחום נרדי .

אהרן עמרם הפך לראשון שהקליט מוזיקה תימנית תוך שימוש בכלים מחוץ למסורתה. בין הכלים שבהם ליווה את השירה התימנית המסורתית שלו היו גיטרה, כינור, קאנון, חצוצרה, טרומבון וכלי הקשה. המוזיקה התימנית הגיעה לקהל עולמי בשנות ה-80 בעקבות מאמציה של הזמרת הישראלית עפרה חזה , שאלבומה "שירי תימן" הפך ללהיט בינלאומי בקרב חובבי מוזיקת עולם. עפרה חזה גדל במשפחה תימנית מסורתית שגר בתל אביב שכונת התקווה. היא התפרסמה בזכות שירה של מוזיקת פופ, אבל בהמשך הקריירה שלה הפכה לשגרירה תרבותית של הקהילה שלה, הן בישראל והן בעולם. כמה מהרצועות המפורסמות ביותר שלה, כמו "אם ננעלו", היו עיבודים מחודשים של שירי תימן מסורתיים, רבים מהם הלחין רבי שלום שבזי , משורר ומיסטיקן מימי הביניים שהישגיו הרוחניים והאמנותיים נערצים בכל העולם בקהילה התימנית. שירתו של שבזי עסקה בנושאים דתיים וחילוניים כאחד, והעניקה למוזיקה התימנית מנעד לירי רחב יותר מאשר צורות רבות אחרות של מוזיקה יהודית מסורתית, הנוטות להיות ליטורגיות במהותן.

​