说起打油诗，首先要提起唐代一个叫做张打油的人，以及他那句广为流传的打油诗《咏雪》：
江山一笼统，井口一窟窿。黄狗身上白，白狗身上肿。
其实这首打油诗写得很有特色，通篇没有一个“雪”字，却将雪景写得栩栩如生。
传说中张打油，后来还做过一些有趣的打油诗，如：
六出九天雪飘飘，恰似玉女下琼瑶。
有朝一日天晴了，使扫帚的使扫帚，使锹的使锹。
百万贼兵困南阳，也无援救也无粮。
有朝一日城破了，哭爹的哭爹，哭娘的哭娘。
这些诗作风趣上口，张打油因此而闻名。后人就把这种不合平仄，俚俗幽默的诗歌都称为打油诗。如果单从字面来看，可以这样解释，叫打油诗，一方面是因为作品的随意性，打油的同时都可以作出诗来。另一方面还可以从这个“油”字上考虑，是说这一类诗歌大多非常幽默生动，有些“油滑”。
实际上，打油诗的历史可能比张打油时代还要更早。在诗歌格律未定型之前，一些民间的口头诗歌随口吟唱，风趣诙谐，都可以算作打油诗。打油诗的出现，不是对正统诗歌的挑战，而是一种补充，虽然有些离经叛道，甚至不伦不类，但却比文人所作的诗歌更加贴近生活。
