接下来，吕小军的主管教练王宝福为了让他更好发展，将他“送”到了奥运冠军廖辉的教练于杰那里。吕小军跟着奥运冠军廖辉一起训练。最终，吕小军慢慢找回了状态，在2011年的举重世锦赛上一举夺魁。
扬名立万
2009年举重世锦赛在韩国高阳举行，代表中国举重队参加男子77公斤级比赛的吕小军以破抓举、挺举、总成绩世界纪录的成绩摘得三枚金牌，三项成绩分别是174公斤、204公斤以及378公斤。2010年吕小军当选《世界举重》评选的年度最佳男子举重运动员。同年9月在土耳其安塔利亚世锦赛上夺得挺举冠军（200公斤）以及抓举（170公斤）和总成绩亚军（370公斤）。2011年前往巴黎再战世锦赛的他以抓举170公斤、挺举205公斤以及总成绩375公斤获得抓举和总成绩冠军以及挺举亚军。
如此强势表现让吕小军获得了2012年伦敦奥运会的参赛资格。首次亮相奥运赛场的他展现了大将风范，抓举175公斤打破自己保持的世界纪录，挺举204公斤正常发挥，总成绩379公斤刷新世界纪录和奥运会纪录，将奥运会男子77公斤级金牌收入囊中；2014年9月23日，在仁川亚运会举重男子77公斤级比赛中打破抓举亚运会纪录，并获得总成绩冠军。
可以说，在男子77公斤这个领域，吕小军已经是“神”一样的存在。
里约憾失金牌
进入里约周期后，吕小军由于伤病，状态出现了起伏，同时其它国家的选手也在不断崛起。2015年的休斯顿世锦赛，吕小军抓举175公斤夺冠，但是挺举三次试举全部失败（俗称砸锅）。
里约奥运会赛场上，吕小军在抓举比赛中以177公斤的成绩刷新世界纪录，奠定了领先第二名哈萨克斯坦名将拉西莫夫12公斤的巨大优势进入挺举比赛。挺举比赛中，吕小军第三次试举举起202公斤，总成绩达到379公斤，追平了自己在伦敦奥运会上创造的奥运会纪录。拉西莫夫在挺举第一次试举也举起了202公斤的重量，第二次试举他直接选择了能够抵消抓举12公斤落后的重量-214公斤。
正是这次开把，在赛后引发了巨大的争议，如今担任中国举重女队教练的张国政，更是在解说这场比赛时爆了粗口。由于开把的重量过大，拉希莫夫在挺举的过程中并没有站稳。饶是如此，裁判还是给出了三盏白灯给予通过。最终，拉西莫夫的体重比吕小军轻（吕小军76.83KG，卡西莫夫76.19KG），因此拉西莫夫获得金牌，吕小军只能获得银牌。
里约奥运会的意外失利，让32岁，原本已经做好退役打算的吕小军感到心有不甘，最终做出了再战东京的准备。
