伍子胥和公子胜出昭关的时候都改换了行装，一身破衣裤，脚穿草鞋，身上背着破包袱，装扮成难民的样子。当然，就算不装扮，他们的样子也和难民差不多。伍子胥的手上还拿着一杆长箫，这是他和公子胜躲在昭关附近的山上时，为了打发无聊的时光，便砍了山上的青竹自己做的。下山的时候，他将就这东西来抗包袱。结果，披头散发，衣衫褴褛，手拿竹箫的样子，看起来更像一个乞丐。伍子胥正要掩盖身份。所以在其后的日子里，这杆长箫便一直陪着他。
伍子胥和公子胜混出了昭关，一路上，二人就扮作乞丐，慢慢的向吴国都城走。
前两日，他们还遇到了追捕。在一条大江边，他们差一点就过不去了。好在遇到一个老渔翁，将他们渡过了江。其后的两天，他们躲躲藏藏，急急而行。再后来，盘缠也用的差不多了。他们就靠一杆竹箫沿路乞讨，往吴国的都城而去。这一路说不尽的风餐露宿。
到了姑苏城，伍子胥想去见吴王，却找不到人引荐，他只好和公子胜暂且住在一间客栈中。此时，盘缠早已用完，每日又要负担饭钱和房费，伍子胥干脆就到街上**乞讨，聊以度日，等待机会。
姑苏城多有小桥流水，岸边垂柳花草，间有鸟语花香，幽静而美丽。有一天，伍子胥坐在桥边一棵垂柳下**讨饭，有三五个闲汉围观。不知什么时候，来了一个身高七尺有余、衣着光鲜的人。此人默不做声，只站在人群中观看。他既不喝彩，也不给钱。就那样一直观看，也不离开。
伍子胥早就注意他了。对于逃匿中的伍子胥来说，他最担心的是遇到楚国的暗探。伍子胥心中慌乱，表面上却强作镇定，他装作浑然不觉的样子，半眯着眼继续**。
一曲罢了，有人丢下一两个小钱，转身离去。而那条大汉却趁着众人散去的时候，上前作揖，说道：“先生，可否借一步说话？”
伍子胥抬头看了那人一眼，也不说话，收了地上的钱，站起身来跟着那人便走。
两人过了小桥，拐进河边一处茶肆，面对面分头坐下。那人叫了茶，然后自我介绍说：“在下名叫被离，是吴国公孙光的手下。刚才听先生**，感觉非同一般。故而冒昧请先生来此一坐。请教先生大名。”
伍子胥猜到此人有来头，也不隐瞒，便说：“在下姓伍名员，字子胥。楚国人。”
被离眼睛一亮，笑道：“果然是伍子胥先生，久闻大名了。我早听说先生到了吴国，只是无缘相见。楚王正在悬赏缉拿你。”
伍子胥问道：“被离先生找我有何事？”
被离说：“以先生的才干，何至于干此营生。如今公子光正在招募天下豪杰，我想引荐你。”
伍子胥说：“公子光是什么人？”
被离说：“吴王寿梦有四个儿子，老大诸樊，老二余祭，老三夷昧，老四季扎。这公子光就是老大诸樊的儿子。”
伍子胥笑道：“原来是个王孙。”
被离说：“不。也是王子。”
伍子胥喝了口茶，看着被离，一副询问的眼神，表示不解。
被离说：“老吴王寿梦临死前立了一个规矩。他死后，叫老大诸樊即位，诸樊死后，叫余祭即位，余祭死后，叫夷昧即位，夷昧死后，叫季扎即位。老大、老二、老三相继做了国王，只有老四季扎在夷昧死后不愿即位。老大诸樊做过吴王，所以这公子光既是王孙，也是王子。”
伍子胥问道：“现在的吴王是谁？”
被离说：“现在的吴王是老三夷昧的儿子，叫做僚。说起来，他是公子光的堂弟。”
伍子胥若有所思的说：“哦……难怪公子光要招募豪杰。”
被离一愣，也笑起来：“先生的才智非寻常，一听就明白。”
伍子胥说：“好。我就去帮一帮公子光。”
通过被离引荐，伍子胥见到了公子光。一番交谈后，公子光对伍子胥十分敬佩，遂以上宾之礼相待。伍子胥表示，希望公子光推荐他入朝做官。公子光答应了。
吴王僚正需要一个熟悉楚国情况的人，他在了解到伍子胥的能耐以及家世背景后，便请伍子胥做了吴国大夫。
伍子胥做了官，报仇之心愈发急切。只要有机会，他便怂恿吴王僚对楚国用兵。但吴王僚总是推脱。当然，有时候他也会安慰一下伍子胥。他说：“对楚国用兵，还需慎重。伍大夫不必着急。等时机到了，我自然会出兵。”
后来，楚、吴边界上发生了一次冲突。原因是楚国人越过边界到吴国这边来采桑。伍子胥马上向吴王僚进言，希望派公子光带兵去讨伐楚国。
这多少有点小题大做的意味。朝中大臣都微微摇晃脑袋。
公子光忽然出班奏道：“大王，伍子胥这是在挑动我们和楚国开战。我不说他是为了一己私利，至少是为国家考虑的少，为个人考虑的多。退一步说，就算要和楚国开战，也要等待时机嘛。”
吴王僚说：“公子光言之有理。”又回头质问伍子胥说：“伍大夫，你到底是为寡人着想，还是为了自己的事情？”
伍子胥底气不足的说：“臣以为，这是一个战机。”
公子光说：“边界纠纷经常发生。若是以此为借口出兵，那不知道能出多少回。”
王僚说：“没错，在先王寿梦时代，我们帮晋国‘疲楚’，就经常去骚扰楚国边界。但楚国并没有因此和我们开战。要是以边界摩擦为借口开战，那就不知道要打多少回了。”
公子光说：“和楚国开战，那是大事。时机不成熟，绝不能轻易言战。”
王僚见伍子胥无话可说，认定他有私心，于是便说：“我给你一块地，你去乡下住吧。暂时不用来朝廷做事了。”
伍子胥就这么被吴王僚逐出了朝廷。他刚刚看到一线报仇的希望转眼就破灭了。伍子胥很颓丧，带着公子胜住到了乡下。
公子光却很高兴，他要的就是伍子胥被赶出朝廷。伍子胥才走不久，他就带了粮食、布匹等东西赶到了乡下，想借此机会把伍子胥收归己用。
伍子胥觉得，公子光是故意离间他和吴王僚的关系。他料定公子光前来，必有所求。果然，公子光坐了一会儿，便将自己的心思说了出来。
原来，公元前527年，吴王寿梦的三儿子夷昧身患重病，在他临死前，他派人去找了自己的兄弟季扎，准备把王位传给老四。但是老四季扎却藏了起来，死活不去即位。夷昧一死，王位就空了。夷昧的儿子僚乘机即位，就是现在的吴王僚。
按照老吴王寿梦定下的规矩，如果四儿子季扎不愿意即位，那么王位就应该由寿梦的孙子辈来继承。在孙子辈中，公子光是老大樊诸的儿子，换句话说，公子光是老吴王寿梦的长孙。因此，在公子光看来，叔叔季扎不愿意即位，王位就应该他来继承。没想到，夷昧的儿僚抢先登上了王位。所以公子光一直想把王位抢回来。
伍子胥听完公子光的讲诉，沉思片刻说：“僚已经手握王权，你想夺回王位，唯一的办法就是刺杀他。”
公子光说：“伍大夫能帮我做成此事吗？”
伍子胥说：“我可以推荐一个人。”
公子光眼睛一亮，问道：“谁？”
伍子胥说：“此人叫做专诸，是个侠义之人，但却穷困于市井之中。只要重金收买，此人定当效命。”
专诸和母亲住在梅里街市上，确实是个市井之徒，此人力大，勇猛，头脑简单，但却很讲义气。他靠打临工为生。伍子胥是在**讨饭的时候认识他的。伍子胥当时留了个心眼儿，他知道，这种人将来会有用，于是和专诸交上了朋友。如今为了公子光的事情，他便带公子光一起找到了专诸。
专诸经不住公子光和伍子胥的游说，很快便同意了。公子光给了专诸一大笔钱，还把他的母亲安顿好。专诸被公子光的慷慨和诚恳所感动，铁了心为他效命。
为了接近吴王僚，公子光抓住吴王僚爱好吃鱼的特点，专门找来一位做鱼的高手，教专诸做鱼。专诸学了三个月，练成一手做鱼的绝活。公子光叫他先在自己的府上待着，闲来无事的时候，就叫他给自己做鱼吃。
公元前516年，楚平王死了，他和孟赢生的儿子太子珍即位，就是楚昭王。
消息传到吴国，伍子胥面向西方大哭。他边哭边说：“老天不公啊，我大仇未报，仇人倒先死了。这仇找谁去报啊。”
但是哭归哭，仇还是要报的。他给公子光出主意说：“趁着楚国大丧期间，咱们应该怂恿吴王向楚国出兵。这样就可以把忠于王僚的两个将军掩余和烛庸支开。”
公子光觉得这个主意不错，但又怕王僚派自己去出征，于是故意从马车上摔下来，把自己的腿弄伤，然后才去找王僚。
王僚听了公子光的建议，果真派掩余和烛庸为将，带兵去进攻楚国。
掩余和烛庸是王僚的左膀右臂，这两人一走，王僚的力量就削弱了。伍子胥又对公子光说：“王僚的儿子公子庆忌武艺高超，为防万无，还应该想办法把他调开。一旦王僚的身边没有了掩余、烛庸、公子庆忌这些人，咱们就好动手了。”
公子光说：“让我想想。”
半个月后，掩余和烛庸派人回来报告说，楚国大将伯郤宛很难对付，希望吴王僚增加兵力。公子光借机向王僚建议，派公子庆忌带去联络郑国和卫国。吴王僚有点不情愿。
公子光说：“大王，只要郑国和卫国从北面出兵，咱们就能形成南北夹击之势，楚国将首尾不能相顾。这是一举打败楚国、称霸中原的好机会啊。”
王僚想了想，最后还是决定听从公子光的建议。于是公子庆忌便被派去出使郑、卫两国了。
调开了王僚身边几个厉害人物，公子光和伍子胥便开始实施他们的刺杀计划了。
有一天，公子光请吴王僚到府上吃饭。他特意推荐说，他找了一个太湖边上的厨子，擅长做鱼。王僚一听有鱼，便同意前往。
到了宴会日，王僚带着几十个卫士，浩浩荡荡的来到了公子光的府上。伍子胥将王僚的大部分卫士阻挡在堂外，只叫他带着十名卫士近身护卫。
到了上菜的时候，专诸手托一个大木盘，将一条色香味俱佳的糖醋大鲤鱼端上来。他先将这盘鱼端到尝菜官面前，叫尝菜官先尝，然后再端到王僚的桌上。
王僚用筷子剥下鱼肚子上的一块肉，品尝一下，点头笑道：“嗯，味道不错。果然是高手。你退下，等会儿听赏。”说着，便动起了筷子。
他的筷子刚刚插入鱼腹，忽然一愣，因为他感觉筷子碰到了什么硬东西。专诸不等王僚反应过来，一伸手，便从鱼腹中抽出一柄利剑来。那把剑叫做“鱼肠剑”。剑身细长，双面开刃，短小精致，锋利无比。专诸一手持剑，一手抓住王僚的胸襟，快如闪电的一捅，那“鱼肠剑”便刺进王僚的胸膛。王僚大叫一声，带着剑仰面翻到。
王僚的左右侍卫一拥而上，转眼间就将专诸砍翻。厅上场面顿时大乱。
伍子胥带着一群虎狼士卒从幕后冲出来，转眼功夫便将王僚的卫士全部控制住。公子光命令他们放下武器。王僚的卫士见公子光那边人多势众，只好乖乖的扔掉了武器……
到这时，伍子胥才奔过去察看专诸，早已气绝身亡了。
公子光杀了王僚，召集大臣们说：“大王被刺，我暂时代管朝政，等叔父季扎从晋国回来，我便请他即位。”
大臣们无人敢反对。公子光果然派了人去晋国请季扎回来。但是季扎回来后，一如既往的表示，不愿意做国王。他对伍子胥说：“如果我要坐这个王位，早就坐了。我无心于王位。公子光若能够虔诚祭祀社稷，好好治理国家，我情愿一心一意的辅佐他。”
公元前515年，公子光登上王位，改名阖闾。伍子胥做了吴国朝廷的重臣。