В двух странах термины были номинализированы и означали «те, кто служат дворянству», со временем произношение слова в японском языке изменилось на Cабурай (англ. Saburai). По словам Уилсона, первые упоминания слова «самурай» можно найти в Kokin Wakashū (рус. Кокин Вакаси) 905 – 914 гг., первом императорском сборнике стихов, который был составлен в первой половине 10 века.

По наиболее распространённому мнению, самурайство зародилось в VIII веке на востоке, северо-востоке и крайнем юге Японии. На окраинах империи издревле осевшие здесь племена айну ожесточённо обороняли свои земли от императорских войск. Основу самурайства составили беглые крестьяне и вольные охотники, искавшие «земли и воли» на границах империи. Подобно донским и запорожским казакам, они проводили жизнь в непрестанных походах и стычках с воинственными аборигенами, защищая государственные границы.

Вплоть до конца IX века, прежде всего на севере нынешней территории Японии, бушевала война. Чтобы противостоять подстерегавшей на каждом шагу опасности, поселенцы строили укреплённые поселения и вели кровопролитную борьбу за существование, участвуя в карательных экспедициях на территории туземцев.Опасной была жизнь и в других провинциях тогдашней Японии. Уже несколько столетий в прибрежных водах промышляли пираты. Во внутренних районах, в лесах и горах бесчинствовали разбойничьи банды. По всей стране то и дело вспыхивали восстания крестьян. В этих условиях губернаторы и знать провинций, в особенности пограничных, не хотели, да и не могли полагаться на императорское правительство и войска, а предпочитали своими силами наводить порядок. Для этого они из боеспособных мужчин создавали небольшие военные формирования, находившиеся под их непосредственным командованием. Военными отрядами командовали представители знати, владельцы крупных поместий, то есть частных земель, которыми их наделяло императорское правительство. Владельцы поместий всеми силами старались расширить свой надел, захватывая новые земли в военных походах и вырубая леса.
Золотым веком самурайства считается период от первого Сёгуната до войны Онин. С одной стороны, это был мирный период (не считая попытки монгольского вторжения), с другой — численность самураев не так велика, как при Токугава (когда чуть ли не каждый пятый японец был самураем), что позволяло самураям иметь высокий жизненный уровень.

Сословие самураев получило чёткое оформление во время правления в Японии сёгунов из феодального дома Токугава (1603—1867). Наиболее привилегированный слой самураев составляли так называемые хатамото (буквально — «под знаменем»), являвшиеся непосредственными вассалами сёгуна. Хатамото в своём большинстве занимали положение служивого слоя в личных владениях сёгуна. Основная масса самураев являлась вассалами князей (даймё); чаще всего они не имели земли, а получали от князя жалование рисом. Кодекс поведения самурая «Бусидо» был проникнут духом беспрекословного подчинения господину и презрения к смерти. Законодательство Токугава разрешало самураю безнаказанно убивать на месте «простолюдина, который неприличествующим образом ведёт себя по отношению к членам военного класса».

В период правления дома Токугава, когда внутренние феодальные войны были прекращены, военные отряды самураев использовались, главным образом, для подавления крестьянских восстаний.
Вместе с тем, даймё не нуждались в таких больших отрядах самураев, которые существовали ранее, в периоды феодальных войн, и число самураев в их военных отрядах сокращалось. Часть самураев превращалась в ронинов (деклассированных самураев, вассальная зависимость которых от князей прекратилась; ронины часто переходили на положение горожан, занимались ремеслом, торговлей и другой деятельностью). Иные самураи пополняли ряды ниндзя — наёмных убийц.

Процесс внутреннего распада сословия самураев заметно усилился с середины XVIII века. Развитие мануфактурного производства и усиление городской буржуазии приводили к постепенному экономическому вырождению самурайства. Всё больше и больше самураев и даже влиятельных даймё попадало в долговую зависимость от ростовщиков.

Своего рода комплекс неполноценности, порождённый в самураях их странным положением, находил выражение в обострённой тяге к традиционным духовным ценностям. Повсюду возникали разнообразные школы воинских искусств. С новой силой вспыхнул угасший на время междоусобных войн интерес к философии Дзэн, чайной церемонии, живописи и гравюре, изящной словесности.

Многие самураи, даже не переходя на положение ронинов, занимались торговлей, ремёслами и т. д. Рядовые самураи (особенно в княжествах Сацума, Тёсю, Тоса и Хидзен), тесно связанные с буржуазией, сыграли значительную роль в незавершённой буржуазной революции 1867—1868 (см. Мэйдзи исин). После неё сословие самураев, как и другие феодальные сословия, было упразднено, однако самураи не потеряли своего привилегированного положения.

Из среды бывших самураев пополнялись кадры чиновников, из них состоял в основном офицерский состав армии и флота. Кодекс «Бусидо», прославление самурайской доблести и традиций, культ войны — всё это стало составной частью идеологии милитаристской Японии до начала Второй мировой войны. Термин «самурай» и сейчас иногда применяется для обозначения служащих японской армии.