2000年初开始接触搜索引擎，网名“搜索引擎9238”曾经影响中国整整一代搜索爱好者，是中国最早的搜索引擎应用研究和普及者之一，曾做个人网站“搜索研究院”。
2001年5月加入百度，任产品市场经理，
2002年7月任高级经理，
2003年11月任产品市场总监，
2005年9月任首席产品架构师，
2006年11月兼任百度产品委员会主席，
2007年1月出任产品副总裁，是百度众多面向用户的产品的设计者和推动者。贴吧的创意就来源于百度首席产品设计师俞军。
2009年4月1日，俞军向百度提交辞呈。
2009年6月30日，俞军正式离开百度。
