בשנות ה-20 עלה הרעיון להקים בארץ ישראל התאחדות לכדורגל שתהיה מסונפת לפיפ"א וכך נוסדה בירושלים ב-1928 ההתאחדות לכדורגל
אשר גולדברג
באמצע שנות ה-20 לא היה גוף מרכזי אשר יאחד את כל ארגוני הספורט בארץ ישראל. מדי פעם נעשו ניסיונות להתאגדויות אזוריות, אולם קיומה של האולימפיאדה השמינית בשנת 1924 בפריז העלה את הצורך בארגון מרכזי רשמי.
יהושע אלוף, דוד אלמגור וצבי נשרי, מראשי מכבי ישראל ופעילים במכבי תל אביב בנושא האתלטיקה, נסעו כדי לצפות במשחקים האולימפיים אשר כללו גם את ענף הכדורגל. הללו החלו לפעול בעניין הקמת התאחדות כיוון שמדובר היה הזדמנות להביא להכרה בינלאומית בספורט הארץ ישראלי על ידי קבלת הסתדרות מכבי ארץ ישראל באופן רשמי לגוף העולמי. חשוב לציין כי באותה עת היה עדיין מרכז הפועל בגדר של רעיון בלבד ולכן הגוף המרכזי היה מרכז מכבי ארץ ישראל.
הפעיל המרכזי בקשירת יחסים עם גופים וגורמים בספורט המקומי ובמדינות השכנות היה יוסף יקותיאלי. יקותיאלי ניצל את שהותם של שלושת חבריו בפריז כדי לבקש מהברון פייר דה קוברטן, ראש הוועד האולימפי ומייסד המשחקים האולימפיים המודרניים, לקבל את ארץ ישראל לוועד האולימפי הבינלאומי. בפריז התגורר אז ראובן (ראול) גור אריה, שהיה משחקני מכבי תל אביב בשנת 1912, והוא עזר בהכנת הבקשה.
האכזבה היתה גדולה כשהברון המכובד השיב בשלילה, כשאת התשובה העביר זיגפריד אדסטרום נשיא ההתאחדות לאתלטיקה. אדסטרום נימק את החלטתו בעובדה שבארגון מכבי חברים רק יהודים ואין ייצוג לערבים ואנגלים. בארץ ישראל ענף הכדורגל החל לפרוח ועשרות קבוצות חיפשו את קורת הגג המאחדת.
יוסף יקותיאלי החליט לנסות להתקבל לארגון עולמי אחר פיפ"א, ההתאחדות העולמית לכדורגל. יקותיאלי, שבשנת 1914 היה כדורגלן במכבי תל אביב, שימש החל משנת 1923 ככתב הספורט של שבועון הספורט המצרי "מאטש", שיצא בקהיר וסיקר את הספורט בפלשתינה. ב-1925 הוא פנה לפיפ"א, שמושבה באותה עת היה באמסטרדם שבהולנד.
לצורך קידום ההצטרפות הרשמית לפיפ"א נרשמה הסתדרות מכבי ארץ ישראל ברשימת הארגונים לכדורגל שיש להם קשר עם פיפ"א. מפיפ"א נמסר ליוסף יקותיאלי שיש להקים בארץ ישראל התאחדות לכדורגל בה ישתתפו כל הקבוצות בארץ ישראל (פלשתינה) ללא הבדל דת וגזע. המשימה הייתה קשה.
הלאומנות הערבית בארץ ישראל הלכה וגברה, העיתונות הערבית הסיתה נגד היהודים ודרשה אי שיתוף פעולה. יקותיאלי פנה למרכז מכבי, שישב בתל אביב, והביא את ההצעה לייסוד התאחדות לכדורגל בארץ ישראל. על המכתב השיב ישראל טורקניץ', מזכיר הכבוד של מרכז מכבי, ב-30 ביוני 1927.
מרכז מכבי ביקש מיקותיאלי להמשיך את המהלך בו החל. עתה היה צורך לפעול כדי להשיג הסכם עם מרכז הפועל. בנוסף זקוק היה יקותיאלי גם להציג בפני הנהלת פיפ"א המלצה של התאחדות לכדורגל של מדינה אחרת בארגון הארץ ישראלי ולתמיכת נציגיה של אותה מדינה בקונגרס פיפ"א. דרך אנשי הכח וינה התבקש הוגו מייזל, איש הכדורגל האוסטרי הפעיל בפיפ"א , לעזור למען צירופה של ארץ ישראל לפיפ"א . מייזל היהודי, שהפך בשנות השלושים את אוסטריה לאחת המובילות בתחום הכדורגל האירופי, אכן פעל ועזר.
יקותיאלי, שב-1927 אירגן את מסע מכבי חשמונאים ירושלים למצרים, היה בקשרים ידידותיים עם ראשי הממשל והספורט המצרי ופעל למען המלצת מצרים לפי דרישת פיפ"א. בין ידידיו היו מוחמד חיידר ביי, מפקד המשטרה בקהיר ששימש כיו"ר ההתאחדות לכדורגל במצרים. יקותיאלי הכיר את יוסף מוחמד אפנדי, שופט הכדורגל הבינלאומי, שהיה בעל השפעה גדולה בהתאחדות לכדורגל המצרית. שני האישים ממצרים הבטיחו להמליץ על סיפוחה של ארץ ישראל בפני פיפ"א, ובמקביל העבירו ליקותיאלי, שהחל בהכשרת הקרקע להקמת ההתאחדות לכדורגל בארץ ישראל, את תקנון ההתאחדות של מצרים.
המצרים שלחו את המלצתם לפיפ"א כפי שהבטיחו, וגם הוגו מיזל התערב בבקשה. מזכירות פיפ"א פנתה לעורך העיתון המצרי "מאטש" בקהיר וביקש דו"ח על הכדורגל בארץ ישראל. מנהל העיתון פנה ליוסף יקותיאלי בתל אביב, שהכין לו דו"ח על 30 מועדוני כדורגל, 32 קבוצות ועל קיומה של עונת כדורגל מאורגנת מתאריך 1 באוקטובר ועד 1 ביוני. אמנם לא היו אז בארץ ישראל משחקי ליגה מסודרים, אבל שמה של מכבי חשמונאים ירושלים צויין כאלופת שנת 1928 מתוקף היותה המנצחת של טורניר שאורגן על ידי האנגלים באותה שנה.
לנושא הערבי נמצא פתרון בסדרת פגישות עם מוסא אפנדי טורי, שהיה פקיד בכיר בממשלת המנדט הבריטי. טורי, שהיה מקורב ליישוב היהודי, הסכים לחתום על מנשר משותף לקבוצות הכדורגל בפלשתינה ולשלוח את נציגיהן לאסיפה הכללית הראשונה של התאחדות הכדורגל. ב-14 באוגוסט 1928 בבית מכבי בירושלים התקיימה אסיפת ייסוד ההתאחדות לכדורגל. המשתתפים ממרכז מכבי היו: עזרא איכילוב, מרדכי בן דרור, יולה בראון, ישראל גוט, פרץ דגן, סטפן טרק, יוסף יקותיאלי, מאיר כספי, אפרים רובינשטיין ואורי נדב. נציגי מרכז הפועל היו: ישראל כרמי, אהרון אוריק ואפרים פרלשטיין. נציג הקבוצה הערבית "נאדי אל ריאדי אלערבי" היה נוסייבה.
המהלך נשא פרי, פיפ"א אישרה את קבלת פלשתינה ארץ ישראל לשורותיה והעניין נעשה באופן רשמי בפרסום מספר 34 מתאריך ה-4 בפברואר 1929. כנשיא הראשון של ההתאחדות לכדורגל הארץ ישראלי, נבחר המהנדס סטפן טרק, מראשי קבוצת הכדורגל מכבי חשמונאים ירושלים.