Malý pes se nachází pod Blíženci a východně od Orióna - hvězda Prokyon společně s hvězdami Sírius (Velký pes) a Betelgeuze (Orión) tvoří
rovnostranný trojúhelník.
Název souhvězdí je ověnčen několika legendami:
Artemis, řecká bohyně lovu, se jednou vracela se svými nymfami do jeskyně v posvátném háji a právě sem zabloudila náhodou družina prince Akatióna se smečkou psů.
Zatímco lovci odpočívali, vydal se princ na průzkum a přiblížil se až k samotné jeskyni, což však byl veliký přečin, za který byl ihned potrestán - rozhněvaná
bohyně jej proměnila v jelena a Aktaión v zoufalství pobíhal po lese, kde ho vyslídili jeho vlastní psi a uštvali ho k smrti. Lovci z jeho družiny litovali, že
se této štvanice neúčastnil i jejich pán, princ Aktaión. Jeden pes z jeho smečky se poté dostal až na oblohu.
Jiná verze praví, že Malý pes je jedním z loveckých psů samotné bohyně Artemidy či pes ze smečky Oriónovy.
Staří Egypťané viděli v tomto souhvězdí boha Anubise, tvora se psí hlavou.
Arabové a Římané se pak domnívali, že na nebi vidí štěně.
Zajímavostí tohot souhvězdí je quasar 4C 05.34, který vykazuje rudý posuv z = 2,88 což jeden
z nejvyšších rudých posuvů, které byly u quasarů pozorovány