Ә.Х. Марғұлан 1925 жылы техникумды бітірген соң, М.О.Әуезовтың ақыл-кеңесі бойынша Ленинградтағы Шығыстану институтының түркология бөліміне оқуға түсіп, тарих және филология факультеттерінде қатар оқиды.
Шығыстану институтында Орта Азия тарихы мен археологиясы бойынша академик В.В.Бартольд, Индия фольклоры мен өнері туралы академик С.Ф.Ольденбург, араб тарихи әдебиеті жөнінде И.Ю.Крачковский, тіл білімінің тарихы мен теориясы туралы Н.Я.Марр, Орта Азиядағы түркі халықтарының әдебиеті жайында академик А.Н.Самойлович, сонымен қатар академиктер: В.В.Струве, Б.Я.Владимирцов, И.И.Мещанинов, В.Л.Щерба және Е.Э.Бертельс, С.Е.Малов, Б.М.Эйхенбаум сияқты көрнекті ғалымдар дәріс оқыған. Осындай әлемдік деңгейдегі ғалымдардың дәрістерін тыңдап білімін жетілдіре түскен Әлкей Марғұлан өз елінің тарихы мен мәдениетін жан-жақты зерттеуге ден қойып, әдеби және мұрағаттық деректерді жинайды.
1926–1927 жылдары КСРО Ғылым академиясының одақтас және автономиялық республикаларды зерттеу жөніндегі Ерекше комитет академигі А.Е.Ферсманның және профессор С.И.Руденконың басшылығымен ұйымдастырылған Қазақстан және Алтай өлкесін зерттеу экспедицияларының жұмысына қатысып, зор үлес қосты.
1938 жылы, Алматыда КСРО Ғылым академиясының республикалық бөлімшесі құрылғанда тарихшы ғалым ретінде Қазақстанға шақыртылады. Қазақ зиялылары бірінен соң бірі қудалауға ұшыраған сол өте ауыр кезеңде рухани жүдеушілікке ұшыраған отандастарын тығырықтан алып шығу міндетін Қ.Сәтбаев, М.Әуезов, Ә.Марғұлан сынды алыптар өз мойнына жүктеді.
Ә.Марғұлан 1940 жылдардың басында Қазақстан жеріндегі ежелгі мәдениет орындарын, көне сауда жолдарын, археологиялық ескерткіштерді тауып, жан-жақты зерттеп, ғылыми әлемге танытты. Оңтүстік Қазақстандағы Сыр, Талас және Шу өзендерінің бойынан көне қола мәдениеттің іздерін ашты. Отырар, Тараз, Сайрам және Сығанақ қалаларында археологиялық қазба жұмыстарын жүргізіп, қазақтардың орта ғасырлардың өзінде қалалар салып, тұрғылықты тұрмыс кешкенін де делелдеді. Ол, солайша, қазақтар ертеде мәдениеттен тысқары көшпелі халық болған деген пікірлерді ғылыми тұрғыда теріске шығарды.
Ә.Марғұлан 1943 жылы «Хандар жарлығының тарихи маңызы» атты тақырыпта кандидаттық диссертация қорғаған. 1945 жылы қазақ ғылымының тарихында тұңғыш докторлық диссертация қорғады. Қазақтың ерлік жырлары тақырыбы бойынша жазылған «Қазақ халқының эпикалық жырлары» атты диссертациясы күні бүгінге дейін аса құнды, мән-маңызы өте жоғары ғылыми еңбек болып саналады.
Ол тарих пен әдебиетті ұдайы ұштастыра зерттеген, археологиялық экспедицияларда жүргенде ел арасынан көне аңыз әңгімелер, ертегілер, эпикалық жырлар нұсқаларын жинаған. Әлкей Хақанұлы қазақ тарихы мен әдебиеті және ұлттық мәдениеті туралы былайша ой толғаған: «Ғылымсыз қалай ел болмақпыз? Егер қазақ сияқты ұлт өз тарихынан мақұрым болса, өз эпостарынан қол үзсе ел болудан қалады. Рухани жүдеушілік деп міне осыны айтар болар. Ел рухына негіз болар – тарихи санасы, ұрпақ алдында жауаптылығы, дамыған әдебиеті мен ұлттық мәдениеті».
Ғұлама 1940–1941 жылдары оннан аса ғылыми еңбек жазды. Мәшһүр Жүсіп мұрасы, түркі эпосы, Едіге мен Орақ–Мамай туралы, Әлішер Навой және қазақ мәдениеті, тарихшы Мұхамед Хайдар, Шоқан Уәлиханов және Орта Азия тарихы тақырыбындағы мақалалары ғылыми, әдеби жаңалығымен құнды. 1941 жылы Әлкей Марғұлан Қажым Жұмалиевпен бірге 8-сыныпқа арналған «Қазақ әдебиеті» оқулығын да жазды.
Қазақстан ғылымын, қазақ мәдениеті мен әдебиетін дамытуға айрықша еңбек сіңірген ғұлама 1940 жылдардың соңында бірнеше рет қудалауға ұшырады. Ақыры, өзін ғана емес, Қазақстан ғылымын да қорлаған үкімет саясатының зардабынан дертке шалдығып, ауруханаға түскен. Сол шақта «Қаншама жылдар бойы көз майын тауысып қаракөлеңке зертханаларда жүргенде, айлар бойы архив қазынасын ақтарып тапжылмай отыратын шақтардың бір қайтымы болмас па?» деп іштей назаланған екен.
1957–1967 жылдары Ә.Х.Марғұланның басшылығымен Ш.Уәлихановтың бес томдық академиялық жинағы дайындалды. Ол КСРО-дағы архивтерден Шоқанның 300-дей шығармасын тауып, ғылыми редакциялады. Ғұламаның осы және бұдан өзге де көптеген еңбектері жөінде Мұзафар Әлімбаев былай дейді: «Мұхтар Әуезов Абай тұлғасын әлемге қалай танытса, академик Әлкей Марғұлан да Шоқан бейнесін жер жүзілік аренаға солай танытып кетті».
Ол ғылымға бейімді жастарды тәрбиелеп, этнограф, археолог, тарихшы ғалымдардың бірнеше буынын дайындады. Темір дәуірінің алғашқы кезеңін зерттеуші М.Қ.Қадырбаев, көне түрік дәуірінің зерттеушісі Ф.Арыстанов, қазақтардың этникалық тарихын зерттеуші М.С.Мұқанов, қыпшақтардың этникалық тұтастығын зерттеуші С.М.Ақынжанов, қазақтардың отбасы-некелік қатынастарын зерттеуші Х.А.Арғынбаев, исламға дейін діни сенімдер мәселесін зерттеуші С.Ақатаев т.б. Әлкей Марғұланды ұстаз тұтқан. Оның жетекшілігімен кеңестік кезеңде 50-ден астам кандидаттық және докторлық диссертация қорғалды.
Ә.Х.Марғұланның ғалымдық тұлғасы, адами болмыс-бітімі жөнінде Есмағамбет Ысмайылов былай деп жазған: «Ғалымдық, әдебиеттік творчество жолында үнемі ағалық ақылы мен еңбек сүйгіштік мінезі жағынан Әлекеңнің орасан зор ықпалы тек маған ғана емес, мен сияқты көптеген әдебиетші, тарихшыларға мол болды. Әлекеңнің оқығаны да, тоқығаны да ұшан-теңіз. Қасында жүріп, оның кішіпейіл, ұстамдылық мінезінен де, ұшан-теңіз білімінен де көп тыңдап, көп білім аласың. Әлекеңнің ағалық, ұстаздық сілтеуімен әдебиетші, тарихшы ғалымдардың талайы өзінің жаңа ғылымдық еңбектерін ойдағыдай жазып, жемісті нәтиже беріп жүр».
Академик Ә.Х.Марғұланның ғалымдық, ұйымдастырушылық қарым-қабылетінің арқасында Қазақстанда археологиялық және этнографиялық зерттеулердің берік іргетасы қаланды, тарих, археология, этнография ғылымдары жүйеленіп бір ізге түсірілді.
Ғұламаның көзі тірісінде қазақтың қолөнері жайындағы зерттеулері үш томдық кітап болып шықты, барлығы 400-ден аса әр түрлі ғылыми еңбектері жарық көрді, бірқатары шет тілдеріне аударылды.
Ғұламаның еңбегін Мемлекет басшысы Нұрсұлтан Әбішұлы Назарбаев: «Көшпенділер мәдениеті мен Даланың әлемдік өркениетінің қалыптасуына ерекше әсер еткенін жан-жақты терең бағалауға мүмкіндік туғызған Орталық Азия көшпенділерімен өзіндік мәдениетін зерттеу мен әлемге таныстырудағы Ә.Х.Марғұланның еңбегі өлшеусіз» деп бағалады.
Академик Әлкей Хақанұлы Марғұланның еңбектері Қазақстан Республикасының ғылыми, мәдени, әдеби мұрасы болып табылады. Ғұламаның өмірі бүгінгі рухани-мәдени өмірімізге де үлгі-өнеге бола береді.
Айзада Келдібекова Г.Н.Потанин атындағы
облыстық тарихи-өлкетану музейінің маманы.