Аркаш Багай начал свою литературную карьеру, опубликовав свои первые работы в 1923 году на страницах издания «Гудыри». Он создавал литературные произведения, как в стихотворной форме, так и в прозе, используя свой родной язык. Его дебютная книга под названием «Тараканъёс» («Тараканы»), выпущенная в 1926 году под псевдонимом Аркаш Багай, стала для него известной, однако он отказался от этого имени лишь в конце 50-х годов.
Аркаш Багай является автором множества сборников стихов и прозы, написанных как для детей, так и для взрослой аудитории, а также драматических произведений, песен и критических эссе.
Имея репутацию выдающегося удмуртского писателя, он особенно знаменит как детский автор. Его творчество ориентировано на дошкольников и учащихся начальных классов, а его детские произведения переиздавались многократно и вошли в число классических текстов.
Багай также внес значительный вклад в переводческую деятельность, адаптируя произведения русских и иностранных классиков, включая А. Пушкина, М. Лермонтова, Н. Некрасова, Т. Шевченко, А. Барто, С. Маршака, С. Михалкова, К. Чуковского, Б. Житкова и Д. Дефо, на удмуртский язык.
Его исследования и сборы удмуртского фольклора привели к публикации таких значимых работ, как «Удмурт калык сказкаос» (Ижевск, 1940) и «Удмурт калык выжыкылъёс» (Ижевск, 1954), созданных в соавторстве с другими исследователями.