长平之战赵军惨败，留下了四十余万的俘虏，如何安置这些俘虏，成了摆在秦国面前的一道难题。
眼下的赵军的四十万俘虏，每日消耗的军粮就让秦国力不从心了。长平之战劳民伤财，到如今秦军自己的粮草供给都已经十分紧张，很快就会有缺粮的危险。
此外，赵国俘虏还是个未知的隐患，是个随时可能爆炸的炸弹。留在军营里面肯定行不通，迁到秦国土地充斥其民，很可能导致相互仇杀和战乱，甚至有人还有可能暗自和赵国私通。
如果放回赵国，只要赵王振臂一呼，他们必定能够被重新招募起来，三年长平大战秦军死伤过半，足以窥见赵军战力之强悍，如果他们再次被招募起来，必定知耻而后勇，成为秦军的心腹之患。
事情考虑到这里，众人心里明白，只有一种方法，才能够使秦国永绝后患，那就是——杀。
秦昭襄王虽然杀伐果断，但是从来没有想到，自己会屠杀四十万手无寸铁的俘虏。这种事情一旦做下，虽然能够极大地震慑敌人，但也无疑会留下千古骂名。于是，秦昭襄王没有知会白起，便回到秦国了。行前还留下口谕，让白起便宜行事，全权处理长平的战俘问题。
王乾茫然了，王翦也迷茫了，司马梗也心悸了。他们知道秦国的选择，就是杀掉战俘；也知道，秦昭襄王是不愿意背负这个骂名的。
当时的人对于杀害投降俘虏的事情，都很忌讳。秦昭襄王本人更是不能背负这个坏名声而引起天下人的公愤，而白起是统帅，是秦军之中谁也无法逾越的人，这件事只能由他去做。
下决心杀害四十万赵军已然艰难无比，但是还有更加艰难的事情摆在后面，那就是如何动手。要知道，那可是整整四十万人马，就是一个个站在那里任秦军砍杀，也不知何年何月才能够杀完。若是在动手之前被他们察觉而有所防备并奋起反抗，秦军大营必定会乱作一团。
于是，白起下令，趁着赵军还没有丝毫防备，把他们驱赶到阳谷方向。将40万名赵国俘虏分为10个大营，让10个将领分别统领，同时还调拨了20万名秦军负责维持治安。
白起为了不引起俘虏的怀疑，还下达了一份假的诏令，让他们准备好明日接受秦军的选拔，凡是合格的人，都会被充到秦军的军营当中，不合格的人，都会给予路费，遣返回到赵国。赵军俘虏感恩涕零，却不知这份假的诏令背后隐藏了巨大的杀机。
这夜，秦军将10个大营的俘虏集中驱赶到了一个山谷，继而分兵堵住谷口。再将无数的山石和点燃的木柴从两侧的山崖上一股脑地砸将下来，等待俘虏们的是如暴雨般砸来的山石和火种。
此时的赵军饿得一点力气都没有，根本无力反抗，大部分要么被柴火烧成焦尸，要么被山石砸破脑袋，甚至被巨石整个儿地从身上碾过去，变成一摊肉饼，偶尔有几个强壮些挣扎着爬到山上的赵卒，也迅速被山顶的秦军杀死，并扔回山谷之中。
整整一个晚上，秦军数十万大军都如同疯子一般杀红了眼，黑夜见证了人性的丑恶。第二天，天空忽然飘下了瓢泼大雨，似乎是对数十万亡灵的沉痛哀悼。
唐开元十一年(723年)，唐玄宗李隆基巡幸至此，还能够看见漫山遍野白骨森森的景象。为了安抚他们的亡魂，唐玄宗亲自致祭，命高僧设水陆法事七昼夜，超度坑卒亡魂，并将该谷命名为“省冤谷”。