夜郎自大的成语故事源自中国古代的一个传说，这个故事发生在西汉时期。
故事的主人公是汉武帝时期的一位使者，名叫张骞。张骞奉命出使西域，途中经过了一个名叫夜郎的小国。夜郎国虽然不大，但国王却非常傲慢自大。
有一天，张骞来到夜郎国，向国王请教夜郎国的地理情况。国王听了张骞的提问后，竟得意洋洋地说：“夜郎国土地广大，人民众多，是天下第一大国！”张骞听后，觉得这个国王实在可笑，便回答说：“大王，我国（指汉朝）的版图比夜郎国大得多，人口也多得多，我们才是天下第一大国。”
国王听后，感到非常惊讶，于是亲自出城，想要看看汉朝的实际情况。当他看到汉朝的城池、宫殿、街道等设施后，不禁感叹道：“原来汉朝如此强大，我们夜郎国实在是小巫见大巫啊！”从此，夜郎国王再也不敢夜郎自大了。
这个故事后来被传为成语“夜郎自大”，用来形容那些自以为是、骄傲自大的人。这个成语告诉我们，不要因为自己身处小地方就盲目自大，要时刻保持谦虚谨慎的态度。
