В 1913 защитил магистерскую и в 1915 г. докторскую диссертации по физике. С 1918 — член-корреспондент, а с 1920 — действительный член Российской Академии наук.
В 1918 создаёт и возглавляет физико-технический отдел при Государственном рентгенологическом и радиологическом институте.
В 1921 стал директором Физико-технического института АН СССР, созданного на основе отдела и названного теперь его именем.
В 1919—1923 — председатель Научно-технического комитета петроградской промышленности, в 1924—1930 — председатель Всероссийской ассоциации физиков, с 1932 — директор Агрофизического института.
Абрам Иоффе — один из инициаторов создания Дома учёных в Ленинграде (1934). В начале Отечественной войны назначен председателем Комиссии по военной технике, в 1942 — председателем военной и военно-инженерной комиссии при Ленинградском горкоме партии.
В декабре 1950, во время кампании по «борьбе с космополитизмом», Иоффе был снят с поста директора и выведен из состава Учёного совета института. В 1952 году возглавил лабораторию полупроводников АН СССР. В 1954 на основе лаборатории организован Институт полупроводников АН СССР.
Автор работ по экспериментальному обоснованию теории света (1909—1913), физике твёрдого тела, диэлектрикам и полупроводникам. Иоффе был редактором многих научных журналов, автором ряда монографий, учебников и популярных книг, в том числе «Основные представления современной физики» (1949), «Физика полупроводников» (1957) и другие.
Иоффе – автор множества монографий и учебников. Большой популярностью пользовались его Лекции по молекулярной физике (1919), им был написан 1-й том Курса физики – Основные понятия из области механики. Свойства тепловой энергии. Электричество и магнетизм (1927, 1933, 1940), а также (совместно с Н.Н.Семеновым) первая часть 4-го тома Молекулярная физика (1932, 1935). В середине 1930-х годов под руководством Иоффе прошло обсуждение принципов построения курса физики для технических вузов; одним из результатов этих бурных дискуссий стало издание замечательного курса общей физики Г.С.Ландсберга. Иоффе был членом многих академий наук: Гёттингенской (1924), Берлинской (1928), Американской АН наук и искусств (1929), почетным членом АН Германии "Леопольдина" (1958), Итальянской АН (1959), почетным доктором Калифорнийского университета (1928), Сорбонны (1945), университетов Граца (1948), Бухареста и Мюнхена (1955).
А. Ф. Иоффе скончался в своём рабочем кабинете 14 октября 1960 года. Похоронен на Литераторских мостках Волкова кладбища, на его могиле установлен памятник работы М. К. Аникушина.