寇准先世曾居太原太谷（今山西太谷）昌平乡，后移居冯翊（今陕西大荔），最后迁至下邽。其远祖苏岔，西周时曾任武王司寇，因多立大功，故以官职为姓。曾祖父寇宾、祖父寇延良，都饶有学识，因逢唐末乱世，均未出仕。父亲寇湘，博古通今，擅长书法、绘画，在诗词文章方面也很有名气。曾于后晋开运年间（944—946年）考中进士甲科，在魏王记室参军（王室秘书）任上屡建勋绩，被封为三国公（即燕国公、陈国公、晋国公），追赠官职至太师、尚书令（即宰相）。

寇准自幼受着良好的熏陶、教育，十四岁时，已经写出了不少优秀诗篇；十五岁时，就已精习《春秋》三传（《左传》、《公羊传》、《谷梁传》），并能区别三传异同，剖析问题也较为精确。

太平兴国五年（980年），寇准考中进士甲科，并取得参加殿试的资格。当时，宋太宗多喜录用中年人，有人便劝寇准将年龄多报几岁。寇准却说：“我正思进取，岂可欺蒙国君!”结果一试得中，受任为大理寺评事，先后出任巴东（今湖北省巴东县）、成安（今河北省成安县）知县。

任巴东县令期间，面对这个依山为田、刀耕火种的苦旱之地，血气方刚的他刚直不阿，力主改革。一方面采取措施减轻农民徭税，一方面体察民情，指导农民因地制宜发展农业，给农民传播引进先进的生产知识，深得人心。为劝民农事，寇准还写下“劝农歌”：“苍天在上，后土在下。效我神农，五谷丰登。挽草为业，定居稼穑。乐土归民，传之子孙。”巴东县野三关镇至今还留有土人为纪念寇准修建的“劝农亭”遗址，当地百姓赞扬他：“风声雨声苦竹声，都能听出苍生声！”

任成安知县期间，寇准按照国家规定征收赋税、徭役，严禁巧立名目、加码摊派。每当收税或征役时，为防止衙役横行乡里、鱼肉百姓，他在县衙门前张贴布告，上面写各户税额、清应征对象的姓名、住址，百姓一见，便主动前来缴税、服役。

寇准还奖勉耕织，鼓励垦荒，致使成安县境田野垦辟，百姓安居，受到人民的交口称赞。由于他政绩卓著，数年间屡屡升迁。