1871年8月30日,卢瑟福生于新西兰的一个手工业工人家庭。他于1895年大学毕业后,曾在剑桥大学卡文迪许实验室进行实习,成为物理学家汤姆生的学生和助手。1898年移居加拿大,任马克居耳大学的教授。1907年定居英国,任曼彻斯特大学教授。1918年以后,担任剑桥大学卡文迪许实验室主任。
卢瑟福在研究放射性现象和原子结构方面有重大成就。1899年,他发现了放射中的两种成份,并由他使名为α射线和β射线。接着又发现了新的放射性元素“钍”.1902年与英国化学家一起,对铀的放射性进行研究,并提出原子自然蜕变的理论,因此,获得1906年诺贝尔化学奖金。
1911年,根据α粒子的散射实验,最初发现了原子核的存在,并提出关于原子结构的行星模型。1919年,卢瑟福用放射性元素钋的α粒子轰击氮原子,获得了氧的同位素,第一次实现了元素的人工嬗变。
1920年,卢瑟福还预言过中子的存在,认为原子核内部存在某些不带电的粒子,能很容易地打入原子内核,或者和原子核结合起来,或者在它的强大场内蜕变。十年之后,这种中子果然被人们所发现,成为轰击原子核的最佳炮弹,为原子核链式反应、翻放原子能提供了条件。后来了纪念这位作出了重大贡献的原子核物理学家,用他的名字作为放射性强度的单位。1937年10月14日,卢瑟福经过一天的紧张劳动后,感到身体不适,五天后逝世于剑桥医院。