Mayo Clinic, Dr. William Worral Mayo ile iki oğlu William J. ve Charles H. Mayo'nun Amerika'nın o zamanki yerleşilmiş sınırlarının batısında kurdukları muayenehaneden zamanla gelişerek büyümüştür. Baba Dr. Mayo, 1850'de doktor oldu ve 1864'te de Mayo ailesi Rochester'e taşındı.
Dr. Mayo'nun iki oğlu, önceleri babalarının çalışmalarını izleyerek, daha sonra da onun hasta ziyaretlerine ve yaptığı otopsilere katılarak, tıbba çok erken yaşta başladılar. Tıp fakültesinden mezun olduktan sonra her ikisi de Rochester'e dönerek babalarının işine katıldılar.
1883'te Rochester'den geçen müthiş bir kasırga sonucunda çok ölen ve yaralanan oldu; ölen ve yaralananlara acilen yardım etmek üzere büro ve otellerde geçici hastaneler kuruldu. Civardaki St. Francis manastırı rahibeleri hasta bakıcı olarak seferber edildi. Bu deneyimden esinlenen baş rahibe Alfred Moes, Mayo kardeşlere Minnesota eyaletinin güney doğusunda ortaklaşa bir hastane kurmayı teklif etti. Bu ortak girişimin sonucunda 1889'da Saint Mary's Hastanesi açıldı.
Artan talep ve tıp bilgisinin beklenmedik gelişmesine cevap vermek üzere Mayo kardeşler, başkalarını da girişimlerine katılmaya davet ettiler. Tasarladıkları ekip çalışma sistemi, tıp uygulamasında yeni bir çığır açmakta idi. Dr. Will'e göre, "Tıbbın, hastayı iyileştirmek için doktorun, uzmanın ve laboratuar teknisyenlerinin el ele vererek tümünün ortaklaşa gayreti ile uygulanacağı işbirlikçi bir bilim haline gelmesi gerekli" idi. "Tıp artık bireysel bir ilim olarak devam edemez."
Hasta tedavisini ilerletmeye yönelik uzman koordinasyon çabalarına ek olarak, Mayo'lar araştırma ve eğitimi ihmal etmediler. 1915'te açılan Mayo Lisans Üstü Tıp Fakültesi'nin (Graduate School of Medicine) kuruluşu, Mayo kardeşlerin bir bağışı sayesinde gerçekleşti, ve bu okul, dünyada tıp uzmanları yetiştiren ilk ihtisas programlarından biri oldu. Bu okulun 13.000'den fazla mezunu hâlen Amerika Birleşik Devletleri'nde ve tüm dünyada mesleklerini başarı ile sürdürmektedir.
1919 yılında Mayo kardeşler, ortaklıklarını feshederek, kliniğin ismini, varlığını ve şahsi birikimlerinin büyük bir kısmını, kâr amacı gütmeyen, "Mayo Vakfı" (Mayo Foundation) olarak tanınan hayırsever bir kuruluşa devrettiler. Dr. Will Mayo, "Halktan gelen paranın yine halka dönmesini istiyoruz. Bunu da en iyi şekilde tıp eğitimini geliştirmekle gerçekleştirebiliriz" dedi. Böylece işletme giderlerinden geri kalan tüm gelir eğitim, araştırma ve hasta bakımına adandı.
Dr. Charlie 26 Mayıs 1939'da vefat etti; iki ay sonra da Dr. Will öldü. Kurdukları organizasyonun vefatlarından sonra da gelişerek devam etmesi, Mayo kardeşlerin ileri görüşlülüğünün bir kanıtıdır. Amerika'nın o tarihte yerleşilmiş batı sınırında kuruluşundan bu yana, beş milyondan fazla hasta Mayo Clinic'te tedavi edilmiştir. Günümüzde klinik, üç eyalette kurulu üç klinik ve dört hastanede çalışan 25.000 doktor, bilim adamı, hemşire ve sağlık personelini içermektedir. Tüm bu gelişme ve değişim süresince Mayo Clinic, Dr. William Mayo'nun ifade ettiği kuruluş ilkesine sadık kalmıştır: "Bizce gözetilecek tek yarar, hastanın yararıdır."