詹姆斯出生在美国纽约的一个中下阶级家庭，在成名之前他做过各种各样的工作，直到1925年开始在百老汇的舞台剧中担任主角。1926年他开始和华纳兄弟公司签约，1931年因出演《人民公敌》（PUBLIC ENEMY）而成为明星。贫贱的出生使他有一种成名的强烈欲望，他对工作相当的认真，并不断尝试新的角色。1942年他在传记音乐片《胜利之歌》中的出色演出，从而获得了第十五届奥斯卡最佳男主角金像奖，此后他还试图导演一些电影不过在商业上都不是很成功。在拍完《一二三》后他宣布息影，15年后他获得美国电影学院的颁发的第一个终身成就奖。于1986年3月30日逝世，终年八十七岁。
