17、18世紀，研究動物行為的人更多了，開始了比較不同物種行為的研究和行為的理論探討。如德國人約翰（Johunn Pernaller）研究了不同鳥的行為差異，涉及取食地、社會行為、筑巢、領地、季節性羽毛色彩變化、遷徙、鳴叫和育雛等方面；法國的勒雷（Chorles George Lereg）對狼、狐的捕食行為及野兔的恐懼表現有過生動的描述，提出了動物依靠它們的記憶和生活經驗能夠聰明地生活。

    1859年，達爾文的《物種起源》的發表，對動物行為學的研究產生了深遠的影響。他的《人類的由來》（1871）一書研究比較了人與動物，及本能行為。19世紀末，人們使用迷宮，研究老鼠的學習行為。勞埃德（C.Lioyd MOrgun）研究雞的本能、學習、模擬行為。現代行為學中許多術語，如Behaviour（行為）、Animod Behaviour（動物行為），都出現在他的論著中。

    早在19世紀上半葉，G.居維葉和E.G.圣提萊爾便就動物學研究方法發生過爭論：前者強調實驗室研究，后者主張在自然條件下進行觀察。在他們的影響下，有關動物行為的研究，形成了兩個傳統。代表前一傳統的多是生理學家和生理心理學家。如 И。П。巴甫洛夫、美國E.L.桑代克和B.F.斯金納等。他們在實驗室里對狗、貓、大鼠等的學習行為進行了大量研究。經典條件反射和操作式條件反射便是他們的貢獻。另一個傳統的代表主要是具有博物學傾向的動物學家，如奧籍德國人 K.von弗里施、奧地利人K.Z.洛倫茨和荷籍英國人N.廷伯根等。他們在自然環境中通過觀察和實驗，分析行為的動因，探討行為的適應功能，并力求推導行為的進化途徑。