建安五年（200年），曹操派刘岱、王忠攻打刘备，却被刘备击败，曹操于是亲提大军出征，刘备败逃投奔袁绍，关羽战败被生擒，被带到许都，曹操待以厚礼，任命为偏将军。
阵斩颜良
建安五年（200年），曹操派刘岱、王忠攻打刘备，却被刘备击败，曹操于是亲提大军出征，刘备败逃投奔袁绍，关羽战败被生擒，被带到许都，曹操待以厚礼，任命为偏将军。
后来，袁绍派大将郭图、淳于琼、颜良攻东郡太守刘延于白马。荀攸提出了声东击西、轻兵掩袭白马的作战方略。曹操接受了荀攸的建议，亲自率军救援。颜良大惊，仓促应战。曹操命张辽与关羽为前锋击之（此时的关羽，依然是刘备的臣子）。关羽望见颜良的麾盖，策马冲锋，刺死颜良于万军之中，又拔出佩刀斩得颜良的首级，然后返还。袁军将领无人能挡，白马之围被解，关羽被封为汉寿亭侯。
在关羽尚未斩杀颜良之前，曹操非常欣赏关羽的为人，为了知道关羽有没有久留的心意，叫张辽以私人感情来询问关羽。关羽对张辽叹息道：“我知道曹公对我的厚爱，但我受刘备将军的厚恩，发誓共死，不可背弃。我终不会留下，在为曹公立下功劳后我便会离去。”张辽担心，自己若是如实汇报，可能会导致曹操杀关羽。于是，张辽叹息良久，终于意识到曹操是君父，自己是臣子，不能因为自己和关羽的兄弟情谊就放弃职责。最终，张辽向曹操如实汇报了关羽的心意。曹操因此称赞关羽：“事君不忘其本，天下义士也。”曹操又让张辽揣度一下关羽何时离开。张辽深知关羽是知恩图报之人，于是，为关羽担保：“羽受公恩，必立效报公而后去也。”曹操知道关羽会离去，反而重加赏赐，想要留住他。但后来，关羽为曹军斩杀了颜良，于是，关羽尽封曹操的赏赐，留书告辞，向北，去袁绍军中，回到刘备身边。曹操左右欲追杀之，不过曹操认为各为其主而阻止。
后来，民间文化把关羽此举叫做“千里走单骑”。
镇守荆州
刘备在得到诸葛亮后，越来越器重诸葛亮。关羽、张飞对此事感到不悦，刘备解释道：“我得到了孔明，就像鱼得到了水，希望诸君不要再说了。”关羽、张飞于是停止了抱怨。
建安十三年（208年），刘备投靠刘表，屯兵于新野。曹操率领大军南下，刘备南逃，另遣关羽乘数百艘船驶向江陵会合，但刘备于途中当阳（今湖北省宜昌市）长坂坡被曹操军追至，幸而关羽驶至汉津，一同乘船至夏口。