开元中，薛据又中风雅古调科第一人，于吏部参选。他自恃才名，请授万年县录事．吏曹请示执政，执政将许之，而诸流外官员见宰相，诉说赤县录事是应安置他们的职务，不该被进士夺去，于是遂罢。他欲为万年县录事不成，任永乐县(今山西芮城县)主簿，秩满改调涉县(今河北涉县)令。
薛据在开元、天宝时的行迹已难确考，但从他的诗中可知地曾游历齐鲁、梁宋及吴越等地。天宝十一年(752年)，薛据与杜甫、高适、岑参、储光羲等同登长安慈恩寺塔。诸人皆有诗作．而薛据诗独佚。从高适、储光羲诗可知，当时薛据曾在长安任大理司直之职。
薛据于乾元二年(759年)授太子司议郎，这年杜甫在秦州，有《秦州见敕目薛三据授司议郎……》，杜甫诗中记载安史之乱后，薛据曾陷入叛军之手，被困洛阳，又遭谗妬，至唐军收复长安后，尚蒙冤屈，未被任用。
肃宗上元二年(761年)至代宗广德元年(763年)，薛据曾任祠部员外郎，大历初，任水部郎中。此后，他曾滞留“客居荆州，杜甫《寄薛三郎中据》云：“子尚客荆州，我亦滞江滨。”
《唐才子传》说薛据“初好栖遁，居高炼药。晚岁置别业终南山下老焉。” 薛据诗中也自云“弱年好栖隐，炼药在岩窟。”晚年居何山炼药，已不得而知，唯知其任水部郎中没多久，于大历三、四年(768、769年)去世。
薛据为人骨鲠，有气魄，但一生多坎坷，仕途不得意，所以他在《古兴》诗中说：“投珠恐见疑，抱玉但垂泣。道在君不举，功成叹何及。”怨愤颇深。
虽仕途不得意，但薛据在当时诗名极大，所以《封氏闻见记》云“开元中河东薛据自恃才名”云云，其时薛据才30来岁。《唐才子传》说薛据“造句往往追凌鲍、谢。”在盛唐诗坛，薛据与杜甫、王维、岑参、刘长卿、高适等著名诗人相交游，受到诸名家的推崇与尊敬。一代诗圣杜甫盛赞薛据：“赋诗宾客间，挥洒动八垠。乃知盖代手，才力老益神。”又称赞他“文章开穾（上穴下奥），……新诗更忆听”，并且撷薛据诗句入诗。刘长卿在诗中盛称薛据“雄辞变文名，高价喧时议。下笔盈万言，皆合古人意”。 高适也称薛据诗文为“纵横建安作”。由此可见薛据在盛唐诗坛的影响之大。所以，我们可以毫不夸张地说，薛据是盛唐诗坛当时即享有盛名的大诗人。