元和元年（806年）四月，宪宗策试制举人，白居易参加了“才识兼茂明于体用”科试，入第四等。但因出言太直，不得为谏官（有与皇帝直接说话的权力），授盩厔（今陕西周至）县尉。次年秋天，调任京兆府考官，试毕任命为集贤院校理。十一月四日，集贤院出了五番制书的考试题目，让他撰写制书。白居易写成的制书，符合皇帝旨意，第二天授翰林学士。元和四年四月二十八日，授左拾遗（谏官）。

    在左拾遗任上，白居易励行“有阙必规，有违必谏”的职责，对国政、朝官不当之处，每每直言上书。在他任职时，旱灾已连续两年。他认为只减免少数地方的赋税，远远不够，便向宪宗提出，要求全部免征江南和淮南的夏秋两税，以扶救流亡灾民和弱病百姓。与此同时，还要大大减少宫中人员。

    白居易与河南的元稹交好，元稹由监察御史被贬为江陵府士曹掾。翰林学士李绛、崔群在宪宗面前说元稹无罪，白居易也多次上疏，恳切劝谏。宪宗又要封河东人王锷为宰相，白居易劝谏说：“宰相是皇上的辅佐大臣，不是贤良的人不能担当此职。王锷强令他人供给物品、搜括百姓钱财，并以此来求得恩泽，不能让天下人认为您是得了王锷的进奉，而给予了他宰相的职位。”宪宗这才打消了让王锷当宰相的想法。

    宪宗下令神策中尉吐突承璀为招讨使，大部分谏官都上奏阻止此事，白居易也当面向宪宗谈论自己的看法。不久，他又请求停止河北用兵。这些意见，宪宗有很多都听取采纳了。只有劝谏不要任命承璀一事，因为言辞过于激切，宪宗很不高兴，并对李绛说：“白居易这个小子，是我提拔而有名位的，但却对我这般放肆！”李绛回答说：“白居易之所以冒着死罪，事无大小，直言进谏，就是因为要报答您的知遇。陛下要想广开言路，就不宜阻止白居易进谏。”从此，白居易的劝谏很多都被采纳。

    任拾遗期间，白居易克尽职守，屡陈时政，难免使得权臣不满。宪宗对他也多有不悦，曾暗喻崔群“使求自便”。白居易迫不得已，上《陈情状》，以“母多病、家素贫”为名，请求任京兆府判司，结果授京兆府户曹参军（管理户口、租税等）。

    元和六年四月，因母亲陈氏去世，白居易丁忧居渭村，而他的爱女金銮子也在这一年夭折。期间，白居易又贫又病，好友元稹时常分俸济其困难。元和九年冬，丁忧期满，宪宗诏他再度入朝，授太子左赞善大夫。