Die Geschichte des Unternehmens reicht bis ins 18. Jahrhundert zurück, somit ist es einer der ältesten Bleistifthersteller der Welt.
1790 gründete der Österreicher Joseph Hardtmuth eine Bleistiftfabrik in Wien, nachdem es ihm gelungen war, aus Ton und Graphit pulverkünstliche Bleistiftminen herzustellen. Bis zu diesem Zeitpunkt mussten Bleistiftminen aus wesentlich teureren, ganzen Graphitstücken geschnitten werden, die aus England importiert wurden. Die Erfindung von Hardtmuth war für Österreich von großer Bedeutung, da es das Land von der Einfuhr englischen Graphits unabhängig machte. In einem Majestätsgesuch vom 7. April 1812 berichtet Joseph Hardtmuth vom Export von tausenden Bleistiften ins Ausland. Im Hardthmuthschen Verfahren gelang es darüber hinaus durch unterschiedliche Mischungsverhältnisse, Bleistifte in sechs verschiedenen Härtegraden anzubieten. 25 Jahre später stellte seine Fabrik knapp 2,5 Millionen Bleistifte pro Jahr her, was damals 15 % des Weltbedarfs entsprach.
Der Erste Weltkrieg und das Ende der Monarchie bedeuteten Einbußen für das Unternehmen, das sich aber mit der Zeit durch Neugründungen von Fabriken in England, den Vereinigten Staaten, Jugoslawien, Rumänien und Polen wieder erholen konnte. In Österreich bestand eine eigene Hardtmuthsche Fabrik weiter. Nach dem Zweiten Weltkrieg wurde das Unternehmen durch die nun kommunistische Tschechoslowakei verstaatlicht, die österreichischen Eigentümer verloren den Besitz. Dennoch gelang es den Nachkommen von Joseph Hardtmuth, die Bleistiftfabrik in Attnang wieder in Betrieb zu nehmen und die Rechte auf den Namen zu wahren. Im Jahr 1980 erhielt das Unternehmen die Staatliche Auszeichnung und durfte das Bundeswappen Österreichs im Geschäftsverkehr verwenden. Die österreichische Koh-i-Noor Hardtmuth AG ging 1996 in Konkurs; ihre Produktion wurde teilweise von der Firma Cretacolor übernommen.