在精减机构和裁汰冗员的同时，玄宗任人唯贤，严格选拔官吏制度，剔除以往选官陋规，定额内外文武正员官18805人。开元四年(公元716年)，玄宗亲自召见新授县令，当廷出“安人策”试题一道，策试新县令，只有少数人合格，“考入下第者，一切放归学问”，并将主持典选的吏部侍郎卢从愿等贬斥外任。唐初以来，有一股重京官、轻外任的不良风气。玄宗降诏曰：“选京官有才识者，除都督、刺史；都督、刺史有政迹者，除京官，使出入常均，永为恒式。”(《全唐文》卷三十五《重牧宰资望敕》)内外官员互相交流，将任地方官作为简选京官的一项条件，鼓励官员外任，有利于吏治风习的转化。
玄宗是在各派政治势力激烈的倾轧之中登上帝位的。他一方面要捍卫得来不易的皇权，断然对诸王、功臣采取严格限制的措施，以防不测。另一方面，就要更革自武后以来的诸种积弊，整饬朝纲，以求天下大治。开元元年(公元713年)十月十四日，李隆基狩猎渭水之滨，同州刺史姚崇针对时弊“以十事上献”。君臣不谋而合，立即起用姚崇为宰相。他的“建言十事”则成为唐玄宗改革的纲领。
兵制改革的另一项措施，就是在边区设置节度使。唐玄宗为了实现“吞四夷之志”，调整边疆军事力量，在边将屯方之地，设立方镇节度使。自高宗永徽年间(公元650—655年)，都督带使持节者，谓之节度使，但未为正式之官。景云元年(公元710年)，睿宗李旦命薛讷为幽州镇守、经略节度使。次年，又任命贺拔延嗣为凉州都督、河西节度使，始有官名。开元时期，玄宗李隆基推而广之，在边区的东北、西北，及西南，设有河西、陇右、平卢、范阳、剑南、朔方、河东、安西、北庭、岭南十个节度使。这些节度使“既有其土地，又有其人民，又有其甲兵，又有其财赋，以布列天下”，所辖地区，“大者连州十余，小者犹兼三四”(《新唐书》卷五十《兵制》)。这就为日后节度使的独立发展、跋扈割据提供了充分的条件。开元初期，文武之臣并重，出将入相，节度使的总体文化素质较高。尔后，玄宗批准了宰相李林甫的奏请，以边地少数民族番将高仙芝、哥舒翰、安禄山等充任节度使，这批斗大的汉字不识几个的武夫悍将，迅速扩充自己的势力，成为割据一方的豪强。“然则方镇不得不强，京师不得不弱”。最终酿成了标志着唐朝由盛变衰的“安史之乱”。
在整饬吏治时，加强对官吏的考核和监察。玄宗专门颁布了《整饬吏治诏》，明确规定：“每年十月，委当道按察使较量理行殿最，从第一等至五等，奏闻较考，仍使吏部长官总详核。”考评的结果作为官吏升降奖惩的依据。例如，刺史考核列第一等，“量与京官”，若在州未能升迁者，“紫微黄门简勘闻奏，当加优赏”(《全唐文》卷二十七《整饬吏治诏》)。健全监察机构是确保吏治改善的重要措施。在中央发挥御史台监督百官的作用，支持御史纠弹贪暴不法的京兆尹崔日知。在地方各道设采访使，督察地方。开元二十一年(公元733年)，玄宗下令把太宗时在全国设置的监察区十道扩充为15道，分别为京畿、都畿、关内、河南、河东、河北、陇右、山南东、山南西、剑南、淮南、江南东、江南西、黔中、岭南道。每道设采访使，成为地方常设机构，代表朝廷，“以六条检察非法”，纠察该地违法官吏。这对肃清吏治起到了积极的作用。
政治革新的另一举措就是改革府兵制度。唐初在军事上实行与均田制相适应的府兵制，府兵的来源是经过严格“征点”的，标准是“财均者取强，力均者取富，财力又均，先取多丁”(《唐律疏议》卷十六《擅兴》)。府兵皆须自备粮饷器械等物品，“三时农耕，一时教战”。“十万夫家供税课，五千弟子旧封疆。”白居易的诗句正是对这种“寓兵于农”的府兵制的生动写照。府兵要轮流“番上”，宿卫京城。“若四方有事，则命将以出，事解则罢，兵散于府，将归于朝。故士不失业，而将帅无握兵之重”(《新唐书》卷五十《兵制》)。高宗、武则天时期，土地兼并迅速发展，均田制逐渐瓦解，自耕农、半自耕农或丧失土地，或流亡他乡。建立在均田制基础之上的“府兵之法寝坏”，卫士逃亡，兵源枯竭。开元初年，府兵“逃死者不补，三辅渐寡弱，宿卫之数不给”(《唐会要》卷七十二)。即使强行征来的兵丁也是赤手空拳，“多无衣食，皆带饥寒”。开元十一年(公元723年)，宰相张说鉴于府兵制的破坏，上疏“请一切罢之，别召募强壮，令其宿卫，不简色役，优为条例。逋逃者必争来应募”(《旧唐书·张说传》)。玄宗采纳了他的建议，用募兵制代替了府兵制。在京师及附近诸州共募得士兵12万人，号称“长从宿卫”，每年两番。后更名〔guo郭〕骑，分属12卫。戍守士兵也改用招募之法，募得之兵，名曰“长征健儿”。这些士兵脱离了土地，不再从事农业生产，兵民分离，当兵成为专门的职业。募兵早在唐太宗征伐高丽时就曾用过，高宗、武后亦曾募兵，但只是作为应急补充兵源的一种办法。玄宗采用募兵制则是兵制的改革，成为唐代军事的定制，使唐朝的军事力量有所增强。
开元初年的改革首先是从刷新吏治开始的。从武后、中宗、韦后以来，官吏的正常铨选阻塞，内外斜封官充斥，“政出多门，滥官充溢”。这是一支队伍庞大、素质不高、办事效率低的官僚队伍。姚崇在“建言十事”中指出：“自武氏诸亲猥侵清切权要之地，继以韦庶人、安乐、太平用事，班序荒杂。臣请国亲不任台省官，凡有斜封、待阙、员外等臣，悉请听罢。”(《资治通鉴》卷二一○《考异》)玄宗说：“朕素志也。”按照姚崇的建议，整顿吏治先从裁汰冗官冗员、精简机构入手。开元二年(公元714年)五月，玄宗下令免去全部员外官、试官、检校官，除非有战功，或特诏录用外，吏、兵二部不得任用。撤销、合并闲散司、监、署十余所，“大革奸滥，十去其九”。开元十一年(公元723年)，玄宗将贞观年间隶属于门下省的宰相议政之所政事堂改归中书省，内设五房，即吏房、枢房、兵房、户房、刑礼房，并将宰相人数减至二人，扩大其权力。又增设学士院，置翰林学士，职司“专掌内命，凡拜免将相，号令征发”(《新唐书·百官志》)，号称“内相”，其权不亚于宰相。目的是强化皇权。
