Этническая история орстхой рассматривается исходя из неоднозначности этнонима. Во-первых, под ним понимают собственно общество Орстхой, известная история которого начинается с начала XVIII века на берегах рек Арштынка и Футан. Во-вторых, с какого-то, точно не установленного периода, название охватывает общества горных нахов, выходцы из которых и сформировали собственно орстхой — Галай, Мержой, Цечой и Ялхарой. История этих обществ-прародителей значительно древнее истории собственно орстхой, например, мержойцев связывают с топонимом «Мерези», известным из документов Русского царства с XVII века[К. 68], а башенный замок цечойцев Цеча-Ахки был заложен ещё в XV веке.

Российский офицер дивизионный квартирмейстер Л. Л. фон Штедер, побывавший в 1781 году на Кавказе, в том числе на землях карабулаков, сообщал, что они с их соседями чеченцами, гихами и аттигерами одного происхождения. Позднее, академик П. С. Паллас, в своём труде по итогу экспедиционной поездки на Кавказ в 1793—1794 гг., указал, что карабулаки происходят именно от ингушей-галгай. Наиболее вероятно, что собственно общество Орстхой начало складываться на рубеже XVII—XVIII вв.еков в низкогорной зоне на берегах рек Арштынка и Футан. Основу объединению положили выходцы из обществ Акка, Галай, Мержой, Цечой и Ялхарой. В этногенезе орстхой иногда выделяли цечойцев — встречалось утверждение, что все орстхой своей прародиной считали средневековый цечойский аул Цеча-Ахки.

Среди некоторых исследователей существовала тенденция связывать исторических орстхой с легендарными нарт-орстхой из нахских сказаний «Нартского эпоса». Это сопоставление позволило некоторым исследователям сформировать не подтверждённое предположение, согласно которому: во-первых, орстхой — это нахское племя, которое ещё с периода средневековья жило на предгорной равнине и представляло собой нечто вроде пограничной стражи, аналог казачества, охранявшей внутренние территории горных нахов. Горцы за охрану расплачивались с ними частью скота, который необходимо было пасти на равнине в период сезонных отгонов. Со временем орстхой превратились из защитников в притеснителей горных нахских племён — они запрашивали высокую плату за выпас скота на равнине, совершали грабительские походы на своих соплеменников, похищали людей; во-вторых, орстхой могли стать союзниками исторических алан, с которыми вместе блокировали горы, и только в XIII веке, в период походов монгольских завоевателей на Северный Кавказ (Поход Джэбэ и Субэдэя, Западный поход), были выбиты в горы.

Данную гипотезу (идею отождествления орстхой с орхустойцами из нартского эпоса) подверг критике профессор И. А. Дахкильгов, в частности, он пришёл к выводу об ошибочности употребления термина «нарт-орстхой» вместо «нарты». В качестве аргументов он приводил сведения из работы Ч. Э. Ахриева, впервые записавшего во 2 половине XIX века ингушские сказания о нартах, где разделялись термины «орхустой» и «орштохой/орштхойцы» (орстхой). Кроме того, термин «нарт» относится к эпическим понятиям, а термин «орстхой» является понятием этническим.

Ещё одно предположение высказывал А. С. Сулейманов, а также повторяющий его сведения И. Е. Саратов — они связывали орстхой на генетическом уровне со славянами, и даже с русскими. Среди аргументов указывались верования орстхой, где ведущим был культ священного оленя, как и у славянских жителей Ростово-Суздальского княжества; сам этноним, якобы созвучный со славянским топонимом Ростов; предания о переселении орстхой с берегов Чёрного моря, возможно, отсылка к существовавшему там славянскому княжеству. Проводя параллели между орстхой и русами, И. Е. Саратов, в отличие от А. С. Сулейманова, делал далекоидущие выводы, пытаясь обосновать гипотезу значительного присутствия славян на Северном Кавказе в период Средневековья.

Я. З. Ахмадов полагает, что все общества сформировавшие орстхой, когда-то входили в некий старинный Балойский союз.

Со временем эта этногруппа, условно называемая Верхние Карабулаки, заселила территории между средним течением реки Асса на западе и бассейном рек Фортанга и Шалажа на востоке.

В течение столетия, вплоть до начала XIX века, часть орстхой осваивает прилежащую равнину, со временем эта этногруппа, условно называемая Нижние Карабулаки, заселили территории между районом впадения реки Яндырка в Сунжу на западе и районом впадения реки Шалажи в Фортангу на востоке.

Сведения об орстхой крайне скупы и появляются в географической литературе и документальных источниках Российской империи только со второй половины XVIII века, в частности этноним карабулаки впервые упоминается в документе Коллегии иностранных дел за подписью М. И. Воронцова и А. М. Голицына от 1763 года в связи с переселением части орстхой на плоскость, а в 70—90-х годах того же столетия — в трудах западноевропейских и российских авторов (И. А. Гюльденштедт, Л. Л. Штедер, П. С. Паллас и др.). Н. Г. Волкова предположила, что возможно область карабулаков описывает Вахушти Багратиони в своём известном труде «География Грузии». Также, она указала на сведения из карты 1733 года, приведённой В. Н. Гамрекели, где по берегам реки Фортанга, названной рекой Балсу, обозначено «100 деревень» и отметила, что население по данной реке было карабулакским.

Согласно имеющимся источникам, уже летом 1762 года половина карабулаков выразила готовность не только принять ислам, но и переселиться в Дагестан под Эндирей, на земли кумыкского князя Аджи-Муртазали. Одновременно считалось, что они переходили под покровительство России (так как Эндирейские уллубии уже были её вассалами), и в присутствии официального российского представителя решение об этом было поддержано сходом 22 старейшин, представлявших 8 наиболее влиятельных карабулакских фамилий. При этом в качестве гарантии серьёзности своих намерений они выдали эндирейскому князю 5 аманатов из «природных старшинских детей». С карабулакской стороны в эти годы в переговорах о выселении на плоскость и вступлении под новый патронаж упоминаются представители фамилий: «Мережиевой (Мержой), Татыховой (Даттых), Элхургалиевой (Ялхарой), Аокаевой (Аккий)» и др. Среди переселенцев также были и представители Цечой. В документах за те же годы говорится и о «деревнях» Гандалоевых, Фиразовых, Булгучиевых, Бузартыевых, Кориговых и Белхороевых, очевидно, по большей части пожелавших остаться.

В октябре 1768 года моздокским ротмистром А. Шелковым в Санкт-Петербург были доставлены сведения от коменданта Кизлярской крепости Н. А. Потапова, собранные по приказу императрицы Екатерины II в преддверии Первой русско-турецкой войны (1768—1774 годы) о Кабарде и народах, живущих «в сторону Кубани». Орстхой назывались в сведениях «балсу» и упоминались вслед за живущими в юго-восточном направлении от реки Верхняя Кума карачаями (предгорные карачаевцы), чегемцами, караджау (предгорные дигорцы), балкарами (балкарцы) и дюгерами (горные дигорцы). В 1771 году орстхой принесли присягу на верность России[21], но в тот период такие договоры обычно не являлись актами присоединения того или иного кавказского народа к Российскому государству, а подписывались для извлечения сиюминутных выгод, и вскоре, после достижения поставленных задач, о них забывали. Однако, капитан Дегостодия докладывал генералу И. Неймичу: «Они при первом случае доказали себя всеми образы доброжелательными, прося старшины и народ, чтобы, приняты были в вечное е.и.в. подданство, обещаясь дать от себя аманат».

Окончание Русско-турецкой войны и подписание Кючук-Кайнарджийского мирного договора (1774 год), помимо прочего, внесли значительные изменения и в жизнь народов Северного Кавказа — Кабарда была признана в составе России, также российские власти объявили под своей властью и осетин, которые начали переселяться на равнину (так называемую «плоскость»). Орстхой в конце XVIII — начале XIX веков тоже начали расселяться из горной области Орстхой-Мохк на реку Сунжу, а в дальнейшем на территории, соответствующие равнинным и предгорным районам современных Чечни, Ингушетии и Дагестана (вероятно, ещё в 1772 году бо́льшая часть орстхой переселилась на предгорные равнины). Известно, что в 1782 году, по просьбе части орстхой и осетин, российскими властями была построена крепость у Татартупа, для защиты просителей от кабардинцев и горных чеченцев. Среди различных источников сохранилось свидетельство подполковника российской армии, дивизионного квартирмейстера Л. Л. фон Штедера (1781 год), сообщавшего о совместном расселении в ряде сёл на «плоскости» орстхой с ингушами.

В конце XVIII — начале XIX веков в тактических интересах российских властей было время от времени использовать тезис о подвластности некоторых горских народностей Кабарде (в том числе и орстхой). Это позволяло распространять сферу влияния Российской империи на суверенные или зависимые от Турции территории, которые якобы были в вассальной зависимости от уже ставшей российской Кабарды. Сообщения о том, что кабардинские «владельцы» издревле собирали дань с орстхой и других горских народов, лишены основания, и хотя какой-то период выплаты податей имели место, но связано это было со временем, когда кабардинцам покровительствовала Россия и снабжала их более современным вооружением.

В период череды локальных войн на Северном Кавказе XVIII—XIX вв.еков, а особенно во время наиболее агрессивной политики Российской империи — так называемой «Большой Кавказской войны» (1817—1864 годы), орстхой активно принимали участие в противодействии покорению горских народов. Когда было образовано теократическое государство Северо-Кавказский имамат, часть орстхой оказалась в пределах двух его административных единиц — Арштинского (собственно орстхойского) и Галашкинского вилайетов. Большая их часть присоединилась к борьбе, организованной лидером имамата — Шамилем, известно, что одним из его сподвижников был орстхоец — Джамбулат Цечоев. Многие источники говорят об орстхой, как об одном «из самых воинственных племён вайнахского народа».

Некоторые упоминания об участии орстхой в военных действиях из российских документальных свидетельств:
Рапорт от 30 марта 1840 года:

Вероятно, в 1920-х годах джераховцы и орстхой окончательно интегрировались в ингушскую этническую общность, после чего, по мнению некоторых исследователей, можно считать завершившейся консолидацию ингушей как народа и принятие ими общего самоназвания галгай. В XX столетии шёл активный процесс ассимиляции орстхой ингушами, а некоторой части орстхойской этногруппы — чеченцами.

В наши дни представители общества Орстхой частью растворились среди современных чеченцев, а частью — среди ингушей, также потомки орстхой проживают и за границей — в Турции. В начале 1990-х годов орстхой охватило движение за национальное возрождение