建安五年（200年），曹操派刘岱、王忠攻打刘备，却被刘备击败，曹操于是亲提大军出征，刘备败逃投奔袁绍，关羽战败被生擒，不得已而投降，曹操待以厚礼，任命为偏将军。[10]
后来，袁绍派大将郭图、淳于琼、颜良攻东郡太守刘延于白马。荀攸提出了声东击西、轻兵掩袭白马的作战方略。曹操接受了荀攸的建议，亲自率军救援。颜良大惊，仓促应战。曹操命张辽与关羽为前锋击之（此时的关羽，依然是刘备的臣子[11]）。关羽望见颜良的麾盖，策马冲锋，刺死颜良于万军之中，又拔出佩刀斩得颜良的首级，然后返还。袁军将领无人能挡，白马之围被解，关羽被封为汉寿亭侯。[12-13]
在关羽尚未斩杀颜良之前，曹操非常欣赏关羽的为人，为了知道关羽有没有久留的心意，叫张辽以私人感情来询问关羽。关羽对张辽叹息道：“我知道曹公对我的厚爱，但我受刘备将军的厚恩，发誓共死，不可背弃。我终不会留下，在为曹公立下功劳后我便会离去。”张辽担心，自己若是如实汇报，可能会导致曹操杀关羽。于是，张辽叹息良久，终于意识到曹操是君父，自己是臣子，不能因为自己和关羽的兄弟情谊就放弃职责。最终，张辽向曹操如实汇报了关羽的心意。曹操因此称赞关羽：“事君不忘其本，天下义士也。”曹操又让张辽揣度一下关羽何时离开。张辽深知关羽是知恩图报之人，于是，为关羽担保：“羽受公恩，必立效报公而后去也。”曹操知道关羽会离去，反而重加赏赐，想要留住他。但后来，关羽为曹军斩杀了颜良，于是，关羽尽封曹操的赏赐，留书告辞，向北，去袁绍军中，回到刘备身边。曹操左右欲追杀之，不过曹操认为各为其主而阻止。[14-15]
关羽回归刘备的事迹在魏晋时期被评价为“臣子逃归君父，振古通义，故魏武善关羽之奔”[16]，说明关羽在曹营之中，仍然被视为刘备的臣子[11]。回归刘备的举动是符合义理的[11]。后来，民间文化把关羽此举叫做“千里走单骑”。
镇守荆州
刘备在得到诸葛亮后，越来越器重诸葛亮。关羽、张飞对此事感到不悦，刘备解释道：“我得到了孔明，就像鱼得到了水，希望诸君不要再说了。”关羽、张飞于是停止了抱怨。[17]
建安十三年（208年），刘备投靠刘表，屯兵于新野。曹操率领大军南下，刘备南逃，另遣关羽乘数百艘船驶向江陵会合，但刘备于途中当阳（今湖北省宜昌市）长坂坡被曹操军追至，幸而关羽驶至汉津，一同乘船至夏口。[18]
刘备联合孙权击败曹操后，曹操留曹仁等防守荆州。于是，刘备又与孙权大将周瑜夹攻曹仁，命关羽绝北道。[19]后来，刘备又向南攻取荆州南部四郡（长沙、零陵、武陵、桂阳）。关羽被拜为元勋，受封襄阳太守、荡寇将军。此时襄阳实为曹操势力范围，由乐进驻守，所以关羽驻于江北。[20]在此期间，关羽重修了江陵城。[21]
建安十六年（211年），刘备入蜀助刘璋防御张鲁，张飞、赵云、诸葛亮与关羽共守荆州。