抗战时期，生活在白洋淀的小男孩张嘎与唯一的亲人奶奶相依为命。为了掩护在家养伤的八路军侦察连长钟亮，奶奶英勇地牺牲在日军的刺刀下，而钟亮也被敌人抓走。
嘎子历经艰辛，找到八路军，当上了一名小侦察员。
他配合侦察员罗金保执行任务，表现得勇敢、机智。但嘎子毕竟还是一个活泼、淘气的孩子，他与小朋友胖墩摔跤输了还不讲道理，去堵胖墩家的烟囱。
在一次战斗中，他缴获了敌人一支手枪，竟偷偷把枪藏进了老鸦窝里，没有上缴。为攻打敌人岗楼，他奉命进城侦察时被捕。后来和鬼子比赛爬树时机智的逃了出来。
当部队攻打岗楼时，他设法在里面放火，里应外合，全歼敌人，救出了老钟叔，也替奶奶报了仇。战斗结束后，嘎子把藏在老鸦窝里的手枪主动拿出来上缴。队长正式宣布把手枪发给他使用。张嘎终于得到了一支向往已久的手枪，队长正式宣布他已是真正的小侦察员，他的理想都已实现，但是，他知道日本帝国主义还没有完全打垮。
他最后将心爱的木头手枪送给胖墩的时候，还嘱咐胖墩说：“你也要用这支木头的，去缴获一支真家伙!”他希望更多的朋友共同来完成最后打垮敌人的任务。
