我国1000多年前的辽驸马卫国王古墓（公元959年）中出土了两支骨制牙刷柄，头部有两排共8 个植毛孔，它是迄今发现的、世界最早牙刷实物，而欧洲至到十八世纪才出现正式的牙刷。
从古书记载来看，中国到了南宋，城里已经有专门制作、销售牙刷的店铺。那时的牙刷是用骨、角、竹、木等材料，在头部钻毛孔两行，上植马尾。和现代的牙刷已经很接近了。
南宋俗称牙刷为“刷牙子”：南宋吴自牧描写杭州生活的笔记体专著《梦粱录》第十三卷写道：“诸色杂货中有刷牙子。”南宋人周守忠编写养生书籍《类纂诸家养生至宝》，甚至专门讨论了用牙刷来刷牙的时间要不要安排在早上：“早起不可用刷牙子，恐根浮兼牙疏易摇，久之患牙痛，盖刷牙子皆是马尾为之，极有所损。”因为早上牙根较松，而马尾较硬。
后来元代商品经济大发展，牙刷在大江南北普及，成为民间百姓日用品。元末明初有一本为朝鲜人编订的汉语教材《朴通事》，里面有段标准市井对话就是关于牙刷的：
顾客：卖刷子的将来。这帽刷、鞋刷各一个，刷牙两个，掠头两个，怎么卖？
商贩：这的有什么商量处？将二百铜钱来。哥，我与你这一个刷牙、一个掠头，将去使，休掉了。
顾客：不妨事，我靴靿里揣将去。
由此可见，牙刷在元代市井小民间也是普通货品，高丽人也来元朝买牙刷用。
元末有个著名的爱国诗人郭钰，元亡明兴之后，朱明政府以茂才征召他去做官，他铁骨铮铮忠于元朝，甘作遗民坚辞不就。年逾六十，竟以贫死。他曾在《春夜寒》诗序里写道：“余值时危，一穷到骨，薪米不给，恒自谓不敢侥幸，今春雨雪连旬，拥牛衣以当长夜，寒砭肌骨，遂成痁疟。”真可谓是孟子所谓“贫贱不能移”的浩然正气楷模。然而这样一个“一穷到骨，薪米不给”的穷人竟十分讲究口腔卫生，老年时期还坚持刷牙呢。有诗为证——
老气棱棱齿如铁，曾咀奸腴喷腥血。
倦游十载舌空存，欲挽银河漱芳洁。
南州牙刷寄来日，去腻涤烦一金直。
短簪削成玳瑁轻，冰丝缀锁银鬃密。
朱唇皓齿娇春风，口脂面药生颜色。
琼浆晓嗽凝华池，玉麈昼谈洒晴雪。
辅车老去长相依，余论于君安所惜。
但当置我近清流，莫遣孙郎空漱石。