心灰意冷，绝望之下，他置元世祖像于案上，北向而拜曰：臣不敢负世祖皇帝，实在是因为无路可走了。就逃归青田，时值元顺帝至正十七年(1357)。
他曾说：“吾生平忿方国珍、张士诚辈所为！”
又在他的诗中《次韵和孟伯真感兴》里写道：“五载江淮百战场，乾坤举目总堪伤。已闻盗贼多如蚁，无奈官军暴似狼。”又如在《闻高邮纳款漫成口号》中写道：“闻道高邮已撤围，却愁淮甸未全归。圣朝雅重怀柔策，诸将当知虏掠非。”
可见他是一心向蒙元效力，只是不得其用。
即便他还乡之后，他还是不改对蒙元的忠诚，一方面集乡练自保，防备方国珍的进犯；另一方面，发愤写作，着《郁离子》十卷十八篇以见志。“郁离者何？离为火，文明之象，用之其文郁郁然，为盛世文明之治，故曰《郁离子》。”
直到至正二十年，也即1360年的三月，他才应朱元璋之召，去了金陵，从此才能够得以发挥出他的聪明才干。而据说，他之所应召，开始也还是不愿意的。朱元璋派去请刘基出山的，是他手下的一个能臣，叫做孙炎的。刘基初不愿出，孙炎给他送去了一柄剑，意思就是说如果刘基执意不肯出山，那就让他看着办吧。是自杀？还是等朱元璋去砍他的头？随其选择。刘基这才不得不出山。
元末，像刘基这样的知识分子比比皆是。如果说刘基是谋士一流的代表人物，那么另外一个，叫杨维祯的，则便是元末文人的代表人物。很有名气的一个文士。号为铁崖，是为元末诗坛的领袖。也是浙江人。他做过一些小官，为官时期，也是很清廉的，想为百姓做点事。但是，后来张士诚造反，召过他很多次，可他从没应过召。即使在张士诚投降了蒙元之后，也是如此。他依旧还是不肯应召。也许在这其中，他有明哲保身的意思，但是对义军的反感却也是不言而喻。蒙元正统论，曾有争执，有以蒙元为正统的。杨维祯给蒙元上过书，虽然认为也当以宋为正统，但是他却也是承认了蒙元一样也是正统的。
刘基为朱元璋立下了汗马功劳，但是朱元璋大封功臣的时候，为何却只给了他诚意伯的爵位？不给他公倒也罢了，为何连个侯也不肯给他？有猜忌功臣的意思，但是我以为，更多的却应该就是因为他从前的经历。朱元璋又为何对知识分子很不尊敬？采用了一些酷刑烈政？我以为，除了他巩固权力，以及他的出身关系之外，也应该与元末有很多的知识分子皆忠诚蒙元有关系。就像是张士诚的名字，有个轶事，就是说朱元璋
…。。