六十年代的香港警界贪污成风，导致黑狱重重，《正报》记者程安（梁朝伟 饰）撰文揭露警界黑幕，被探长张耀祖（吴毅将 饰）视为眼中钉。张耀祖陷害程安藏毒，使其入狱，更将程的女友小慈（张文慈 饰）玷污。程安在狱中作为帮派人士之外的“羊”，虽有羊头飞机木（吴孟达 饰）看顾，也受尽大佬们侮辱。程安凭借正气与知识为犯人声张权利，逐渐获得大佬们尊重，狱中生活有所好转。不久看守“无人性”（林国斌 饰）将犯人“三只脚”（徐锦江 饰）害死，程安借报界朋友使三只脚冤仇得雪。小慈依靠另一探长势力将张耀祖下狱，沦为犯人的张耀祖计划在狱中报复程安，两人的对决在所难免……
