Франк Илья Михайлович родился 23 октября 1908 года в Петербурге в семье интеллигентов. Он был младшим из двух сыновей Михаила Людвиговича Франка и Елизаветы Михайловны Франк (Грациановской). Старший брат Глеб стал позднее известным специалистом по биофизике. Семья жила на скромный преподавательский заработок отца. Только после революции он стал профессором. Мать окончила сестринские курсы, а затем Женский медицинский институт. После революции много лет работала врачом, главным образом как специалист по костному туберкулезу. «Что касается меня, – писал в своей автобиографии Илья Михайлович, – то я в детстве много болел и не очень регулярно учился в школе. Увлекался биологией и охотно самостоятельно занимался математикой, чему способствовали помощь отца и книги, которые он мне дарил. В 20-е годы наша семья жила в Крыму, и я учился в Ялте. Школа почему-то была преобразована в Ялтинский промышленно-экономический техникум. По окончании первого курса техникума (что эквивалентно 8 классам средней школы) я в 1925 году переехал к отцу в Симферополь, где он был профессором в Крымском (Таврическом) университете, временно преобразованном в педагогический институт. В 1925/26 учебном году, не поступая в Педагогический институт, слушал там лекции, работал в учебной физической лаборатории и математическом кружке, и даже сделал первые шаги в самостоятельной научной работе по геометрии. Единственная опубликованная работа по математике была выполнена тогда и напечатана в 1928 году».
Окончив среднюю школу, Илья поступил в 1926 году в Московский государственный университет на физико-математический факультет. Со второго курса он начал работать в лаборатории С.И. Вавилова, которого считал своим учителем. Под руководством Вавилова Франк выполнил свою первую работу – по люминесценции.
После окончания МГУ в 1930 году несколько лет работал в Государственном оптическом институте в Ленинграде в лаборатории А.Н. Теренина. Здесь Франк выполнял оригинальные исследования по физической оптике и фотохимическим реакциям, за которые ему в 1934 году присвоили степень доктора физико-математических наук.
В 1934 году по предложению С.И. Вавилова Франк перешел на работу в Физический институт им. П.Н. Лебедева АН СССР (ФИАН). Здесь он работал по 1970 год в должности старшего научного сотрудника, заведующего отделом, заведующего лабораторией атомного ядра.
«С самого начала, еще в 1934 году, заинтересовался работой П.А. Черенкова по свечению чистых жидкостей под действием гамма-лучей, в дальнейшем получившей название «эффект Черенкова», – писал Франк в автобиографии. – Вместе с С.И. Вавиловым принимал участие в обсуждении хода этих исследований. Внес определенный вклад в понимание результатов, особенно в вопрос о направленности излучения. Совместно с И.Е. Таммом в 1937 году объяснил это новое явление как излучение электрона при движении в среде со сверхсветовой скоростью и развил его теорию».
