磨料磨具的历史可以上溯到人类的远古时期。
　　
　　在我国黄河流域曾多次发掘出经过研磨加工的很好的石斧、石箭、刀器及装饰用的动物骨和角等；以及已存在五千多年由砍平并经过抛光的砂岩垒迭而成的著名埃及金字塔，这些都充分说明研磨加工早在石器时代就被人类用来为生产服务了。
　　
　　我国是应用磨料磨具最早的国家，奴隶制社会就出现了用研磨法制成的青铜镜。
　　
　　十三世纪时用天然橡胶将贝壳粉磨粘于羊皮纸上制成了磨擦工具 ，比起用天然金刚砂作磨料制成砂纸的法国要早五个世纪之久。
　　
　　在很长时间内，研磨技术仅限于抛光和刃磨这两个工序。
　　
　　1846年出现了简易的外圆磨床，用天然的石头作磨具，开始初具磨具的形式。
　　
　　在此之前，印度人还用虫胶把金刚砂粘在一起做成油石。
　　
　　美国在1823年就已有一个天然油石厂，1857年比利时人用橡胶和天然矿石做成了橡胶砂轮。
　　
　　直到1859年才出现了将天热磨料用烧结方法制成了人造磨具，这种磨具可以在较高的速度下工作。
　　
　　由于西方的产业革命，使机器生产代替了手工生产，这时磨具才用于机器上。
　　
　　1877年美国诺顿公司前身在陶器作坊中把天然金刚砂用粘土粘在一起，烧成世界第一片陶瓷砂轮。1880年，美国又用树脂做出砂轮。1885年正式建立用天然磨料生产陶瓷磨具的企业。
　　
　　在此之前的磨料磨具，都是用天然的磨料制成。直到1891年、1893年美国卡普伦登公司和诺顿公司分别制造出碳化硅和刚玉，自此人造磨料在世界上第一次产生。
　　
　　1900年，磨床已开始进入机械加工工序，对磨料磨具的要求日益迫切。1901年，刚玉大批投产，并生产出白刚玉。从此由于机床工业的较大发展，外圆磨床、平面磨床相继出现。到1920年磨床的液压传动已比较完善，给磨具的使用创造了更有利的条件。1921年，碳化硅生产在原来的基础上发展为绿碳化硅和黑碳化硅两种。同年磨齿机产生，这样螺纹磨削、齿轮磨削、平面磨削等各类型磨削全面铺开。白刚玉、棕刚玉、绿碳化硅、黑碳化硅等多种磨料磨具也日臻完备。
　　
　　1934年，又出现了硬度高于刚玉和碳化硅的碳化硼。1936年出现了介于白刚玉和棕刚玉之间的半脆刚玉。于此同时，产生了金属结合剂天然金刚石砂轮。1946年，单晶刚玉问世。1954年，美国GE公司、卡普伦登公司和诺顿公司合作制成了可重复生产金刚石的装置。1957年制出氮化硼。1962年前后产出铬刚玉。1963年又生产出主要用语在磨削压力大的情况下打磨钢坯等材料的锆刚玉。1970年出现了钒刚玉。
　　
　　自远古以来，磨料磨具从天然到人工制成乃至发展，经历了一个漫长的历史时期，但自制成人造磨料磨具之后，从使用磨床到现在只有短短一百多年的历史，而磨加工却已经成为机械加工不可缺少的基本工艺。
　　
　　在当今的世界上，磨具的使用虽然仍以机械制造业为主，但磨料的用途已远远超出本身的磨削范围而朝着炼钢、耐火材料、建筑工程、电热元件等工业扩展。伴随着科技的飞速发展，磨料磨具在其他领域也将开拓出更多更新的途径。