17、18世纪，研究动物行为的人更多了，开始了比较不同物种行为的研究和行为的理论探讨。如德国人约翰（Johunn Pernaller）研究了不同鸟的行为差异，涉及取食地、社会行为、筑巢、领地、季节性羽毛色彩变化、迁徙、鸣叫和育雏等方面；法国的勒雷（Chorles George Lereg）对狼、狐的捕食行为及野兔的恐惧表现有过生动的描述，提出了动物依靠它们的记忆和生活经验能够聪明地生活。

    1859年，达尔文的《物种起源》的发表，对动物行为学的研究产生了深远的影响。他的《人类的由来》（1871）一书研究比较了人与动物，及本能行为。19世纪末，人们使用迷宫，研究老鼠的学习行为。劳埃德（C.Lioyd MOrgun）研究鸡的本能、学习、模拟行为。现代行为学中许多术语，如Behaviour（行为）、Animod Behaviour（动物行为），都出现在他的论著中。

    早在19世纪上半叶，G.居维叶和E.G.圣提莱尔便就动物学研究方法发生过争论：前者强调实验室研究，后者主张在自然条件下进行观察。在他们的影响下，有关动物行为的研究，形成了两个传统。代表前一传统的多是生理学家和生理心理学家。如 И。П。巴甫洛夫、美国E.L.桑代克和B.F.斯金纳等。他们在实验室里对狗、猫、大鼠等的学习行为进行了大量研究。经典条件反射和操作式条件反射便是他们的贡献。另一个传统的代表主要是具有博物学倾向的动物学家，如奥籍德国人 K.von弗里施、奥地利人K.Z.洛伦茨和荷籍英国人N.廷伯根等。他们在自然环境中通过观察和实验，分析行为的动因，探讨行为的适应功能，并力求推导行为的进化途径。