故事發生在清朝道光三十年（1850）的尼山黃土村。村裏有家肉鋪，鋪中所賣的豬羊肉，皆由屠戶陳三每日早晨送來。陳三養了一隻黃狗，與他形影不離。
一日，肉鋪店主開門後，未見陳三送肉。擔心耽誤生意，店主便到門首張望，卻隻看到那隻黃狗狂奔而來，不見陳三身影。黃狗跑到店主跟前，銜住他的衣服，嗚嗚哀叫，似有話要說。店主揮手驅趕，黃狗卻死活不走。
見它可憐兮兮的模樣，店主心動了，問道：“你主人為何沒來？莫不是出了事？你是想帶我去看他嗎？”黃狗聽後，低頭哀鳴，眼巴巴地看著店主，隨後在前緩緩而行。店主跟在後麵，走了約三裏地，黃狗在一座廢棄的舊屋前停下。
這座舊屋不知建於何年，前有小路，後依山林。因當時局勢動蕩，早已無人居住，荒廢成了流浪漢的棲身之所。黃狗並未進屋，而是來到屋後山林邊，見店主跟來，它躍入小溪，不多時便叼上一具屍體。店主上前一看，竟是陳三，他雙手被繩子捆在身後，繩上還係著一塊大石。
店主大驚，急忙跑迴村中，喊來裏長及村眾一同查看。等眾人趕到，卻見黃狗已蜷曲在陳三屍體旁死去。裏長心中感傷，囑咐眾人看守屍體，自己則火速前往縣衙呈告。
此時的知縣名叫林宇，江蘇蘇州人，進士出身，此前為鄰縣縣丞，今年剛升任尼山黃土村所在縣的知縣，地方誌稱其“公正廉明”。林知縣接到裏長呈告，立刻帶領衙役、仵作前往出事地點勘驗。
仵作檢驗屍體發現，死者口中塞有破布，生前應是被人捆綁並塞口以防喊叫。身上有棍棒傷，但都非致命傷，應是生前遭過毆打。捆綁死者的是常見的麻繩，無法判斷來源，身後所係大石也是山林常見之石，經溪水浸泡沒留下痕跡。黃狗則是因叼死者上岸時用力過猛，溪水嗆入肺中，唿吸不暢而死。
勘驗屍體時，林知縣仔細觀察圍觀者，試圖尋找線索。隻見人們表情各異，有好奇者踮腳觀看，有怕見死屍者躲在人群後聽議論，還有些婦女低聲哭泣，其中一名少婦哭得最為傷心，後來被一個男人帶走了。
林知縣勘驗完畢，召集裏長及甲長等詢問情況，得知此屋廢棄已久，鮮有人至，是荒涼之地，常有流浪漢來此避風雨。若不是黃狗引店主前來，他們根本不會知道有人在此遇害。
林知縣查看屋中各處，發現屋後有堆廢棄木材似被人翻動過，屋前空場有用石塊搭成的簡易爐灶，從灶內柴灰看，昨天還有人在此燒飯。他不禁懷疑，是不是流浪漢所為？他們居無定所，會不會因自己前來勘驗而畏罪潛逃？基於此，林知縣采取了兩項措施。
其一，封鎖道路。尼山黃土村位於一座大山腳下，離縣城僅20裏地，但交通不便，離最近的鎮子也有大約10裏地，且當時沒有大路，山上居民出山隻能走山路。山上居民眾多，遠離縣城，為便於管理，朝廷在該山設有巡檢司，有30名弓兵，管轄臨縣三都及頃山林。
如今發生命案，若兇犯知官府緝捕，必想逃出山，而山路是他們的唯一選擇。所以，林知縣通知巡檢，嚴防各路口，嚴禁流浪漢出山，斷了兇犯的逃路。
其二，清查流浪漢。按清代製度，流浪漢有專門戶籍，稱流戶。各府縣設流頭一職，由流浪漢推舉，官府認定，負責管理本府縣流浪漢，出問題要拿流頭是問。林知縣找來流頭，限他10日內找出曾在舊屋燒飯的流浪漢，否則治罪。
流頭雖住縣城，但有眼線。在巡檢封鎖山路後，他很快就查出了那些流浪漢，先將他們送交巡檢司看押，再迴縣城告知林知縣。原本限期10天，他僅用4天就完成了任務。林知縣褒獎流頭，賞了150文錢。流頭表麵感謝，心裏卻暗罵知縣摳門。
因為流頭在流浪漢中有很大勢力，流浪漢們要給他月錢，遇雨雪天不能流浪時，他還提供粥飯，他還放高利貸、經營地下賭場、開設妓院、經商盈利，富得很，根本瞧不上這150文錢。他出了縣衙，把錢扔給流浪漢們，揚長而去。
林知縣提訊那幾名流浪漢，讓他們交代謀殺罪行。可流浪漢們拒不認罪，任憑林知縣軟硬兼施，他們堅稱不知陳三是誰，還說自己隻為混口飯吃，沒奢望，不會殺人，若為錢就不會當流浪漢了。
林知縣沒了主意，隻好先將他們關押，然後找來兩個親信，讓他們去偷聽流浪漢私下的議論。親信躲在暗處，聽到流浪漢們講村婦孫氏的事，說本是豔遇，卻因某人下手過重，好事變壞事。親信再仔細聽，也沒聽出更多內容，便告知了林知縣。
林知縣一聽村婦孫氏，立刻想起驗屍時哭得最傷心的少婦，當時就想詢問，卻被男人帶走了。他當即傳召西村裏長帶村婦孫氏前來。一看，正是那名少婦，便知她定是知情人，讓她從實說來。
村婦孫氏如實交代了事情經過。原來，孫氏娘家在離尼山黃土村五裏外的柳村，她常迴去探望。上個月，她摘了些野果，覺得味道鮮美，就送了些給生病的母親。母親吃後神清氣爽，拉著她聊家常，不知不覺到了黃昏。
母親留她吃晚飯，她怕天黑不好走，就沒吃，往迴趕。經過那座舊屋時，天已黑了，幾個流浪漢正在屋前升篝火做飯。孫氏因看不清路，便上前討火想做個火把。沒想到流浪漢們調戲她，她開口大罵。
流浪漢們惱羞成怒，將她按住，她拚命掙紮，還咬破了一個流浪漢的手。流浪漢們用土塊塞住她的嘴，脫下她的衣服，那個被咬破手的流浪漢還用她的腰帶勒她，竟把她勒“死”了。流浪漢們驚慌之下，將她的“屍體”抬到後院，用廢棄木材掩蓋，拿走腰帶和衣服後逃竄。
半夜時分，孫氏蘇醒過來，她扒開木材露出頭，卻因身上木材太多無法起身，隻好唿救。也怪她命不該絕，屠戶陳三為給肉鋪送肉，天不亮就上路，經過舊屋時聽到喊聲，找到了孫氏。
他想搬開木材救她，孫氏卻拒絕說：“我現在赤身裸體，如何見人？你別救我，快去村裏喊我丈夫拿衣服來！”陳三覺得有理，又怕她有閃失，便留下黃狗看守，跑去喊她丈夫。孫氏丈夫得知後，拿了衣服跟陳三來到舊屋，救出孫氏。孫氏穿好衣服後，向陳三磕頭致謝，哭訴了自己的遭遇。
孫氏丈夫咽不下這口氣，找裏長訴冤。裏長認為要報案就得先找到罪犯，於是讓他和自己一起查訪。可查了幾日，毫無頭緒，沒想到陳三又被人殺害了。因為陳三對他們有恩，如今慘死，孫氏夫妻非常傷心，孫氏丈夫懷疑是因為陳三救了孫氏才得罪了流浪漢，所以驗屍那天孫氏哭得特別傷心，他怕惹事，就把孫氏拉迴了家。
林知縣了解情況後，當即讓流浪漢們與孫氏對質。當場發現一名流浪漢手上有被咬破的痕跡，正是勒暈孫氏的兇犯。人證物證俱在，林知縣便用刑訊，流浪漢們最終受不了，交代了謀害陳三的經過。
原來，他們得知孫氏沒死，怕她報案，自己會被驅逐，便四處打聽，得知是陳三救了孫氏，就懷恨在心。他們知道陳三每天摸黑上路，便在其必經之路埋伏，將他打翻在地，又打又綁。這時黃狗衝出來咬他們，一名流浪漢大腿被咬掉一塊肉，至今還瘸著。他們用打狗棍打跑黃狗，見陳三不動了，就捆上石頭把他扔進河裏。他們沒想到黃狗會引來店主，撈出陳三屍體，更沒想到官府會查到他們。
案情大白，林知縣開始擬判。這些流浪漢殺了陳三，還曾謀殺孫氏，按律應將主謀斬首。這些流浪漢都動了手，本都可按“加功”量刑，但畢竟隻死了一人，全判死刑有些過分。於是，林知縣將被孫氏咬傷的流浪漢定為主謀，判斬刑；被黃狗咬傷大腿的定為“加功”，判絞刑；其餘流浪漢按不加工處置，判杖一百、流三千裏。擬判申報後，很快得到批複，該斬的斬，該絞的絞，其餘的被流放。
處置完流浪漢，林知縣責令裏長安葬陳三，並把黃狗葬在陳三墳邊。安葬那天，林知縣送來一塊石碑，上書“義犬塚”三字，還有數百字的墓誌銘，稱讚黃狗“犬智由義生，犬亦足千古”。
如今170多年過去，尼山黃土村已沒人記得曾經有這樣一隻黃狗，為了主人，它找到肉鋪店主，又奮力撈出主人屍體，最終與主人一同長眠，令人感歎曆史的滄桑。正所謂：畜生尚且知天性，人類為何少真情。
一日，肉鋪店主開門後，未見陳三送肉。擔心耽誤生意，店主便到門首張望，卻隻看到那隻黃狗狂奔而來，不見陳三身影。黃狗跑到店主跟前，銜住他的衣服，嗚嗚哀叫，似有話要說。店主揮手驅趕，黃狗卻死活不走。
見它可憐兮兮的模樣，店主心動了，問道：“你主人為何沒來？莫不是出了事？你是想帶我去看他嗎？”黃狗聽後，低頭哀鳴，眼巴巴地看著店主，隨後在前緩緩而行。店主跟在後麵，走了約三裏地，黃狗在一座廢棄的舊屋前停下。
這座舊屋不知建於何年，前有小路，後依山林。因當時局勢動蕩，早已無人居住，荒廢成了流浪漢的棲身之所。黃狗並未進屋，而是來到屋後山林邊，見店主跟來，它躍入小溪，不多時便叼上一具屍體。店主上前一看，竟是陳三，他雙手被繩子捆在身後，繩上還係著一塊大石。
店主大驚，急忙跑迴村中，喊來裏長及村眾一同查看。等眾人趕到，卻見黃狗已蜷曲在陳三屍體旁死去。裏長心中感傷，囑咐眾人看守屍體，自己則火速前往縣衙呈告。
此時的知縣名叫林宇，江蘇蘇州人，進士出身，此前為鄰縣縣丞，今年剛升任尼山黃土村所在縣的知縣，地方誌稱其“公正廉明”。林知縣接到裏長呈告，立刻帶領衙役、仵作前往出事地點勘驗。
仵作檢驗屍體發現，死者口中塞有破布，生前應是被人捆綁並塞口以防喊叫。身上有棍棒傷，但都非致命傷，應是生前遭過毆打。捆綁死者的是常見的麻繩，無法判斷來源，身後所係大石也是山林常見之石，經溪水浸泡沒留下痕跡。黃狗則是因叼死者上岸時用力過猛，溪水嗆入肺中，唿吸不暢而死。
勘驗屍體時，林知縣仔細觀察圍觀者，試圖尋找線索。隻見人們表情各異，有好奇者踮腳觀看，有怕見死屍者躲在人群後聽議論，還有些婦女低聲哭泣，其中一名少婦哭得最為傷心，後來被一個男人帶走了。
林知縣勘驗完畢，召集裏長及甲長等詢問情況，得知此屋廢棄已久，鮮有人至，是荒涼之地，常有流浪漢來此避風雨。若不是黃狗引店主前來，他們根本不會知道有人在此遇害。
林知縣查看屋中各處，發現屋後有堆廢棄木材似被人翻動過，屋前空場有用石塊搭成的簡易爐灶，從灶內柴灰看，昨天還有人在此燒飯。他不禁懷疑，是不是流浪漢所為？他們居無定所，會不會因自己前來勘驗而畏罪潛逃？基於此，林知縣采取了兩項措施。
其一，封鎖道路。尼山黃土村位於一座大山腳下，離縣城僅20裏地，但交通不便，離最近的鎮子也有大約10裏地，且當時沒有大路，山上居民出山隻能走山路。山上居民眾多，遠離縣城，為便於管理，朝廷在該山設有巡檢司，有30名弓兵，管轄臨縣三都及頃山林。
如今發生命案，若兇犯知官府緝捕，必想逃出山，而山路是他們的唯一選擇。所以，林知縣通知巡檢，嚴防各路口，嚴禁流浪漢出山，斷了兇犯的逃路。
其二，清查流浪漢。按清代製度，流浪漢有專門戶籍，稱流戶。各府縣設流頭一職，由流浪漢推舉，官府認定，負責管理本府縣流浪漢，出問題要拿流頭是問。林知縣找來流頭，限他10日內找出曾在舊屋燒飯的流浪漢，否則治罪。
流頭雖住縣城，但有眼線。在巡檢封鎖山路後，他很快就查出了那些流浪漢，先將他們送交巡檢司看押，再迴縣城告知林知縣。原本限期10天，他僅用4天就完成了任務。林知縣褒獎流頭，賞了150文錢。流頭表麵感謝，心裏卻暗罵知縣摳門。
因為流頭在流浪漢中有很大勢力，流浪漢們要給他月錢，遇雨雪天不能流浪時，他還提供粥飯，他還放高利貸、經營地下賭場、開設妓院、經商盈利，富得很，根本瞧不上這150文錢。他出了縣衙，把錢扔給流浪漢們，揚長而去。
林知縣提訊那幾名流浪漢，讓他們交代謀殺罪行。可流浪漢們拒不認罪，任憑林知縣軟硬兼施，他們堅稱不知陳三是誰，還說自己隻為混口飯吃，沒奢望，不會殺人，若為錢就不會當流浪漢了。
林知縣沒了主意，隻好先將他們關押，然後找來兩個親信，讓他們去偷聽流浪漢私下的議論。親信躲在暗處，聽到流浪漢們講村婦孫氏的事，說本是豔遇，卻因某人下手過重，好事變壞事。親信再仔細聽，也沒聽出更多內容，便告知了林知縣。
林知縣一聽村婦孫氏，立刻想起驗屍時哭得最傷心的少婦，當時就想詢問，卻被男人帶走了。他當即傳召西村裏長帶村婦孫氏前來。一看，正是那名少婦，便知她定是知情人，讓她從實說來。
村婦孫氏如實交代了事情經過。原來，孫氏娘家在離尼山黃土村五裏外的柳村，她常迴去探望。上個月，她摘了些野果，覺得味道鮮美，就送了些給生病的母親。母親吃後神清氣爽，拉著她聊家常，不知不覺到了黃昏。
母親留她吃晚飯，她怕天黑不好走，就沒吃，往迴趕。經過那座舊屋時，天已黑了，幾個流浪漢正在屋前升篝火做飯。孫氏因看不清路，便上前討火想做個火把。沒想到流浪漢們調戲她，她開口大罵。
流浪漢們惱羞成怒，將她按住，她拚命掙紮，還咬破了一個流浪漢的手。流浪漢們用土塊塞住她的嘴，脫下她的衣服，那個被咬破手的流浪漢還用她的腰帶勒她，竟把她勒“死”了。流浪漢們驚慌之下，將她的“屍體”抬到後院，用廢棄木材掩蓋，拿走腰帶和衣服後逃竄。
半夜時分，孫氏蘇醒過來，她扒開木材露出頭，卻因身上木材太多無法起身，隻好唿救。也怪她命不該絕，屠戶陳三為給肉鋪送肉，天不亮就上路，經過舊屋時聽到喊聲，找到了孫氏。
他想搬開木材救她，孫氏卻拒絕說：“我現在赤身裸體，如何見人？你別救我，快去村裏喊我丈夫拿衣服來！”陳三覺得有理，又怕她有閃失，便留下黃狗看守，跑去喊她丈夫。孫氏丈夫得知後，拿了衣服跟陳三來到舊屋，救出孫氏。孫氏穿好衣服後，向陳三磕頭致謝，哭訴了自己的遭遇。
孫氏丈夫咽不下這口氣，找裏長訴冤。裏長認為要報案就得先找到罪犯，於是讓他和自己一起查訪。可查了幾日，毫無頭緒，沒想到陳三又被人殺害了。因為陳三對他們有恩，如今慘死，孫氏夫妻非常傷心，孫氏丈夫懷疑是因為陳三救了孫氏才得罪了流浪漢，所以驗屍那天孫氏哭得特別傷心，他怕惹事，就把孫氏拉迴了家。
林知縣了解情況後，當即讓流浪漢們與孫氏對質。當場發現一名流浪漢手上有被咬破的痕跡，正是勒暈孫氏的兇犯。人證物證俱在，林知縣便用刑訊，流浪漢們最終受不了，交代了謀害陳三的經過。
原來，他們得知孫氏沒死，怕她報案，自己會被驅逐，便四處打聽，得知是陳三救了孫氏，就懷恨在心。他們知道陳三每天摸黑上路，便在其必經之路埋伏，將他打翻在地，又打又綁。這時黃狗衝出來咬他們，一名流浪漢大腿被咬掉一塊肉，至今還瘸著。他們用打狗棍打跑黃狗，見陳三不動了，就捆上石頭把他扔進河裏。他們沒想到黃狗會引來店主，撈出陳三屍體，更沒想到官府會查到他們。
案情大白，林知縣開始擬判。這些流浪漢殺了陳三，還曾謀殺孫氏，按律應將主謀斬首。這些流浪漢都動了手，本都可按“加功”量刑，但畢竟隻死了一人，全判死刑有些過分。於是，林知縣將被孫氏咬傷的流浪漢定為主謀，判斬刑；被黃狗咬傷大腿的定為“加功”，判絞刑；其餘流浪漢按不加工處置，判杖一百、流三千裏。擬判申報後，很快得到批複，該斬的斬，該絞的絞，其餘的被流放。
處置完流浪漢，林知縣責令裏長安葬陳三，並把黃狗葬在陳三墳邊。安葬那天，林知縣送來一塊石碑，上書“義犬塚”三字，還有數百字的墓誌銘，稱讚黃狗“犬智由義生，犬亦足千古”。
如今170多年過去，尼山黃土村已沒人記得曾經有這樣一隻黃狗，為了主人，它找到肉鋪店主，又奮力撈出主人屍體，最終與主人一同長眠，令人感歎曆史的滄桑。正所謂：畜生尚且知天性，人類為何少真情。