Son origine semble remonter au XIIè siècle, lors des invasions successives des peuples venus d'Asie.
Sa facture est très rudimentaire et assez éloignée de celle des instruments qu'elle devait reproduire. En effet, les instruments à cordes asiatiques ont une caisse de résonance ovale et la balalaïka possède une table triangulaire et un coprs qui ressemble plus à un diamant taillé qu'à une poire. La balalaïka était habituellement construite en sapin et ne possédait à l'origine que deux cordes accordées à la quarte ; ces cordes étaient bien entendu en boyau. Le technique de jeu, également rudimentaire, était souvent ramenée à un accompagnement rythmique, on battait les cordes avec un ou deux doigts. La table servait alors aussi de membrane de percussion. Une troisième corde vint s'ajouter aux deux premières, accordée à l'unisson de la seconde. Ce n'est que vers le milieu du XIXè siècle qu'une quatrième corde compléta l'accord MI MI LA LA. De nombreux instruments n'ont cependant conservé que trois cordes.
Le résultat acoustique est loin d'être désastreux, et c'est pourquoi les constructeurs ont fabriqué des balalaïkas de toutes les tailles, de plus petites et surtout de plus grosses, alto, ténor et basse, cette dernière de la dimension d'une contrebasse.
Il y eut en Russie des orchestres uniquement formés de balalaïkas, tout comme les orchestres de mandolines aux Etats Unis. Le timbre de la balalaïka oscille entre une sonorité joyeuse et une infinie tristesse. Sa simplicité permet d'exprimer très crûment les sentiments de l'interprète.
L'Asie centrale et l'Europe de l'Est sont riches en instruments de musique à cordes, des cousins de la guitare. Trois régions sont à ce titre remarquables. L'Ousbékistant et le Tadjikistan, Sud de la Sibérie et nord de l'Iran et de l'Afganistan, ont été jadis un grand carrefour de cultures. Au début de notre ère, au IIIè siècle avant J. C., des figurines de terre cuite et des bois d'argent gravés témoignent de l'influence asiatique. Plus tard, la culture européenne viendra s'y mêler. Le plus répandu des instruments est le doutar. Il possède deux cordes accordées à la quarte (Ré-Sol). Son corps est fait de lamelles de mûrier et son long manche affiné porte quatorze barrettes en boyau. Beaucoup plus à l'Ouest, en Azerbaïdjan, se rencontre le sas qui est aussi un instrument piriforme construit en mûrier. Il possède 4 à 8 cordes et parfois plus, réparties en trois groupes accordés à la quinte et à la quarte. Cela donne des possibilités de jeu infinies, comme en témoigne le répertoire des musiciens achoughes.