小奥尼尔在1996年NBA选秀中第一轮第17顺位以高中生球员的身份被波特兰开拓者队选中。
在波特兰开拓者,小奥尼尔主要是在板凳上度过的,他在球队的四年里取得了场均3.77分。当时只有18岁零一个月的他成为了NBA历史上最年轻的球员,这一纪录此后被安德鲁·拜纳姆所打破。
在2000年开赛前,小奥尼尔和乔·克莱尼交易去了印第安那步行者队以换取戴尔·戴维斯。在步行者队的小奥尼尔成为了球队的首发球员,在首赛季取得了场均12.9分的成绩,得分已经超过了在开拓者时期任何一个赛季的3倍,此后他的表现愈加出色。在2001-02赛季,小奥尼尔取得了场均19.0分、10.5个篮板和2.3次盖帽,顺理成章的获得NBA进步最快球员的荣誉。他也首次入选了NBA全明星赛和全明星第三阵容。
在2002-03赛季,小奥尼尔成为赛季中NBA仅有的三位拿到场均20分和10个篮板以上数据的球员之一。他成为NBA全明星赛的首发球员,并且入选NBA全明星第三阵容。
2003-04赛季,小奥尼尔取得场均20.1分和10个篮板,带领步行者队取得了NBA最佳战绩,他也入选了NBA全明星第二阵容并且在NBA最有价值球员票选中名列第三。在季后赛中,他帮助步行者队打入东部决赛,其间受伤的小奥尼尔无法完全发挥,最终在东部决赛中2-4败给了底特律活塞队。
杰梅因代表美国国家男子篮球队参加了在美国本土举行的2002年世界男子篮球锦标赛的比赛,最终只获得第6名。在2003年美洲锦标赛的比赛中作为核心球员的他帮助美国队取得了2004年夏季奥运会的参赛资格,但是由于膝伤他错过了代表国家队出战雅典奥运会的机会。
在2004年11月19日,小奥尼尔在客场和底特律活塞队的比赛中涉及奥本山宫殿斗殴事件,在球场上追打闹事的活塞队支持者,这一事件受到了NBA执行官大卫·斯特恩的严肃处理,经过调查在11月21日,小奥尼尔被处以25场的禁赛处罚。在圣诞节前的仲裁上诉中杰梅因成功的将自己的禁赛场次减少了10场,但是整个2004-05赛季他还是只打了44场比赛。
小奥尼尔在2005-06赛季遭受了伤病的困扰只出场了51次,当时球迷仍然投票使他成为东部联盟的首发前锋,后来由于受伤由吉尔伯特·阿里纳斯所取代。步行者以第六位的身份晋级2006年NBA季后赛,最终在首轮2-4败给了新泽西网队。小奥尼尔在2006-07赛季缺席了13场比赛,取得了场均19.4分、9.6个篮板和2.6次助攻的数据。
2008年夏天,多伦多猛龙队以福特(T.J Ford)及伯仕顿(Maceo Baston)换取小奥尼尔。希望借此以他与克里斯·波什(Chris Bosh)组成禁区“双塔”,加强禁区实力及球队战绩。另一方面,步行者队进入重建期,这亦是交易的一个主因。可是,由于他与保殊的磨合不良,加上膝伤困扰。引致个人数据及猛龙队战绩下滑。小奥尼尔在队中的日子亦步入倒数阶段。
2009年2月13日,小奥尼尔被交易至迈阿密热队。
6次入选NBA全明星赛: 2002, 2003, 2004, 2005, 2006, 2007 3次NBA全明星: 第二阵容: 2004 第三阵容: 2002, 2003 NBA进步最快球员: 2002 NBA魔术师约翰逊奖: 2004 NBA常规赛,盖帽王: 2001 (228个)
持有的印第安那步行者队纪录:单场盖帽最多:10个(2003年1月22日对阵多伦多猛龙队) 赛季盖帽最多:228个(2000-01赛季) 季后赛单场篮板最多:22个(2003年,东区首轮第5场) 季后系列赛场均篮板最多:17.5个(2003年,东区第一轮) 单场罚球次数最多:25个(2005年1月4日对阵密尔沃基雄鹿队)