朱元璋即位之后开始大杀功臣，洪武十三年朱元璋开始对宰相胡惟庸的下手，而当时之事，胡惟庸确有谋逆之心，论理该杀，同诛者也不过陈宁等几个大臣。所谓“胡党”大狱，则是十年之后的事情，族诛三万多人。
胡惟庸阴险，用重利引诱徐达的门人想让他上告徐达谋反，结果门子反把胡惟庸托出，只不过朱皇帝当时没深究而已。胡惟庸又以为刘基治病为名，派医生携慢性毒药治死了刘基，刘基一死，胡惟庸更加肆无忌惮。
由于胡惟庸定远老家宅院的旧井中忽生石笋，“吉瑞”突现，又有人告诉他祖坟中好几个坟头“夜有火光炽天”，坟头冒烟，老胡以为是天降吉兆，“益喜自负”，忖度自己又要“进步”了。官至丞相，再“进步”就只能当皇帝了。
恰巧，当时有明朝功臣吉安侯陆仲亨擅用公家驿传，平凉侯费聚嗜酒好色，均为朱元璋节责重谴，胡惟庸看中二人戆勇无谋，便吓唬二人早晚会被正法。二人大惧，哀求老胡出主意，胡惟庸便让二人在外收集军马，以备“急用”。
同时，他又在朝中与陈宁勾结，阅示天下军马图籍，很想把明朝取而代之，为了成事，老胡还托李善长的弟弟、时任太仆寺丞的李存义说动老李也入伙。估计当时并未明说，李善长年老，也装糊涂，“依违其间”，其实是“婉拒”。
胡惟庸确是很“庸”，造反这么大事，竟然让这么多人知道，而真正起作用的禁卫军军官他一个也没争取到，反而大老远派人携书向元顺帝儿子远在沙漠的旧元太子称臣，还派明州卫指挥林贤从海道借倭兵准备里应外合。
林贤从日本还真“借”来了四百倭奴兵，按原计划，这些人准备在充当贡使随从时趁觐见之时行刺朱皇帝。具体方法是：贡使在大殿上奉巨烛，里面事先装填了火药和刀剑。试点时，巨大的蜡烛放出的不是芳香而是烟雾和刀剑，贡使趁机操兵，在殿上杀掉皇帝。
结果，当这批日本矬子坐船抵达南京时，胡惟庸已经被杀，四百矬子刚上岸就被铁棍打翻，一齐押往云南深山老林去“劳改”。胡惟庸太自得，本来没着急动手，他一是想趁朱元璋外出巡视时动手，二是想等林贤与倭使朝见时行刺，但是，几件小事，让他狗急跳墙，不得不匆忙布置。
其一，占城国入贡，胡惟庸未及时报告，朱元璋怪罪下来，他又转嫁责任，惹起老朱愤怒，“尽囚诸臣，穷诘主者”;其二，朱皇帝推究刘基死因，赐死汪广洋;其三，胡惟庸儿子乘马车遇“车祸”而死，老胡怪罪车夫，一刀把人砍了，朱元璋闻之愤怒，让他“偿命”。
数事相加，胡惟庸越想越怕，对左右说：“主上任意杀掉有功大臣，我可能也不免。同样是死，不如先发，以免寂寂受戮！”未等胡惟庸动手，本来与他一伙的御史中丞涂节关键时刻害怕，主动上变，在洪武十二年底向朱元璋告发了老胡。
他的一个同事，同为中丞的商嵩由于被胡惟庸贬为中书省小吏，怀恨在心，也向皇帝汇报老胡的“阴事”，并涉及到御史大夫陈宁和最早上告的中丞涂节。朱元璋大怒，立刻逮捕胡惟庸等人审讯。
御史大夫陈宁很早因文字才气为朱元璋任用，但“性特严刻”，在苏州任地方官时为催赋烧铁烙人，人称“陈烙铁”。入京为御史后，益加严苛，连朱元璋都数次责称他。陈宁儿子劝其收敛，他竟然操起大棒把儿子活活打死。
朱元璋闻讯，深恶其杀子之举，说：“陈宁对儿子如此，心中怎能有君父！”闻皇帝此言，陈宁心惧，故而串通胡惟庸谋反。据《明通记》记载：洪武十三年正月，胡惟庸诡言其府中水井出醴泉，邀朱皇帝临幸。
驾出西华门，有一太监云奇驰马冲驾，因气勃口不能言，比比划划。朱元璋怒其不敬，令左右乱棒击打，把云奇胳膊都打断，几乎当场打死，但英勇的云宦者仍然指划胡惟庸宅院做刀砍状。“上悟，乃登城望其第(胡家)，(见)藏兵复壁间，刀槊林立。
(帝)即发羽林(军)掩捕。”此记乃小说家语，老朱半老头子，又没望远镜，不可能在宫城上看得见胡惟庸家中的情形。实际情况是，涂节上告，加上商嵩上告，他派人逮捕胡惟庸，自然一审即清。
案子定结，胡惟庸、陈宁，包括首先上变的涂节，皆拉入集市碎剐，族诛诸人，并杀老胡党羽、僚属以及一切与胡惟庸有关系的人(包括向他送过书画签过名的几个文人画家)，共一万五千余人。
名单中还有大文豪宋濂，由于他孙子与胡惟庸相识，不仅孙子被杀掉，连累得已经退休的老宋被械送入京要挨刀。幸亏马皇后解劝，言宋濂曾为诸王老师，又不知谋反事，被从轻发落流放茂州，但中途病累而死。