尺八は中国の唐から雅楽の楽器として奈良時代に日本に伝来しました。正倉院には当時の尺八が残されています。この頃の尺八の手孔は6つで、現在の尺八より1つ多くありました。

尺八の名称は唐時代に12律（音階）に合わせた縦笛が作られ、その中で基準音・黄鐘律の笛の長さが一尺八寸であったためにつけられたと言われています。

中世に入ると、手孔が5孔で竹の節も一節の一節切（ひとよぎり）尺八が現れます。長さは一尺一寸一分（約33.6cm）が標準管です。江戸時代はじめには「糸竹初心集」など教則本も出版され、箏、三絃と合奏されるなどしましたが、18世紀には普化(ふけ)尺八に押され衰退しました。

15世紀に「薦僧(こもそう)」と呼ばれ、尺八を吹いて門付け（かどづけ）をする者が現れます。彼らは中国唐代の禅僧普化を祖と仰ぐ、普化宗と呼ばれる禅宗の一派を形成します。この尺八を普化尺八と呼び、現在の尺八の元となる楽器です。普化宗は江戸時代幕府から公認され、彼らは虚無僧(こむそう)と呼ばれました。

尺八は虚無僧の法器とされ、一般人への教授や箏、三絃などとの合奏も禁止されました。しかしこの統制も建前で、実際は両者ともかなり行われていたようです。そして江戸時代半ば、黒沢琴古(きんこ)が各地の虚無僧寺に伝わる曲を30曲あまり再編整理して（これが後に琴古流本曲と呼ばれます。）琴古流の始祖となりました。

都山流とこの琴古流が、現在尺八の二大流派となっています。