Думата "shiba inu" (柴犬) комбинира две японски думи: "shiba" (柴) и "inu" (犬).
"Shiba" се отнася за вид малък храстоевиден растение, намерен в японските планини, предполагайки нещо мало, компактно или рустично. "Inu" просто означава "куче".
Заедно, "Shiba Inu" се превежда приблизително като "храстов куче" или "малко рустично куче", отразяващо произхода на породата в японските селски райони.