Одним из первых устройств (V—IV века до н. э.), облегчавших вычисления, можно считать специальное приспособление, названное впоследствии абаком. Первоначально это была доска, посыпанная тонким слоем мелкого песка или порошка из голубой глины. На ней заостренной палочкой можно было писать буквы, цифры. Впоследствии абак был усовершенствован и вычисления на нем уже проводились путем перемещения костей и камешков в продольных углублениях, а сами доски начали изготавливать из бронзы, камня, слоновой кости и пр. Со временем эти доски стали расчерчиваться на несколько полос и колонок. В Греции абак существовал еще в V веке до н. э., у японцев этот прибор назывался «серобян», у китайцев — «суан-пан».

В начале XVII столетия, когда математика стала играть ключевую роль в науке, все острее ощущалась необходимость в изобретении счетной машины. К этому времени относится создание молодым французским математиком и физиком Блезом Паскалем первой механической счетной машины, названной Паскалиной, которая выполняла два действия—сложение и вычитание.

В 1670—1680 годах немецкий математик Готфрид Лейбниц сконструировал счетную машину, которая выполняла все четыре арифметических действия. Лишь в 1878 году русский ученый П. Чебышев сконструировал счетную машину, выполнявшую сложение и вычитание многозначных чисел.

Важным событием XIX века было изобретение английского математика Чарльза Беббиджа, который вошел в историю как изобретатель первой вычислительной машины — прообраза современных компьютеров. В 1812 г. он начал работать над так называемой «разностной» машиной. Предшествующие вычислительные машины Паскаля и Лейбница выполняли только арифметические действия. Беббидж же стремился сконструировать машину, которая выполняла бы определенную программу, проводила бы расчет числового значения заданной функции. В качестве основного элемента разностной машины Беббидж использовал зубчатое колесо для запоминания одного разряда десятичного числа. В результате он смог оперировать 18-разрядными числами. К 1822 году он построил небольшую действующую модель и рассчитал на ней таблицу квадратов.

Совершенствуя разностную машину, Беббидж приступил в 1833 году к разработке аналитической машины. Она должна была отличаться от разностной машины большей скоростью и более простой конструкцией. Согласно проекту, новую машину предполагалось приводить в действие силой пара.

Необходимость автоматизировать вычисления при переписи на­селения в США подтолкнула Германа Холлерита к созданию в 1888 году устройства, названного табулятором, в котором информация, нанесенная на перфокарты, расшифровывалась с помощью электрического тока. Это устройство позволило обработать данные  переписи населения всего за 3 года—вместо затрачиваемых ранее 8 лет. В 1924 году Холлерит основал фирму IBM для серийного выпуска табуляторов.

Первую счётную машину с программным управлением создал в 1933 году немецкий учёный Конрад Цузе.

Появление электронно-вакуумной лампы позволило ученым претворить в жизнь идею создания вычислительной машины. Она появилась в 1946 году в США и получила название ЭНИАК (ENIAC — Electronic Numerical Integrator and Calculator, «электронный численный интегратор и калькулятор»). Это событие ознаменовало начало пути, по которому пошло развитие электронно-вычислительных машин (ЭВМ).