С Днем рождения, мистер Scatman!

В 1990 году Ларкин переезжает в Берлин. Изучив джазовую культуру города, он продолжает участвовать в концертах в качестве джазового пианиста на круизных кораблях и в барах по всей Германии. В это время Джон впервые решает добавить пение к своей игре, вдохновленный стоячей овацией, которую он получил за исполнение песни «On the Sunny Side of the Street». Приблизительно тогда же его агент, Манфред Зарингер, работавший в датской компании Iceberg Records, предложил Джону смешать пение в стиле скэт с современными стилями дэнс и хип-хоп. Ларкин отнесся к этому скептически, однако идею Зарингера поддержала BMG Hamburg.Главным образом Ларкин боялся того, что слушатели поймут, что он заикается, поэтому Джуди предложила ему сказать об этом прямо в его музыке. Работая с танцевальными продюсерами Инго Кэйсем и Тони Катанья, он записал свой первый сингл «Scatman (Ski Ba Bop Ba Dop Bop)», намереваясь при помощи этой песни помочь детям, страдающим заиканием, перебороть эту болезнь. С этого времени Ларкин начинает выступать под сценическим псевдонимом Скэтмен Джон.

В 1995, в возрасте 52-х лет, он становится всемирно известной звездой. Продажи его дебютного сингла вначале продвигались медленно, но постепенно достигли первого места во многих странах. По всему миру было продано более 6 миллионов экземпляров. «Scatman (Ski-Ba-Bop-Ba-Dop-Bop)», который по всей Европе занимал в чартах высокие места, остаётся самым популярным и самым известным его произведением. Чуть позже последовала песня «Scatman’s World», достигшая 10 места в чарте UK Singles Chart, которая обрела хоть и меньший, но вполне значительный успех, было продано около миллиона копий.
По «горячим следам» успеха двух своих синглов, он выпустил свой дебютный альбом, также озаглавленный Scatman’s World, который вошёл в топ-10 во многих странах, включая Германию, где он прожил с 1990 года несколько лет, а также Швейцарию, Финляндию и Норвегию,] в результате чего было продано несколько миллионов копий альбома по всему миру. Скэтмен организует концертные туры в странах Европы и Азии. «Когда я выступал в Испании, дети кричали пять минут подряд, я не мог начать петь», — рассказал он однажды. Когда Джон давал интервью, он стал говорить так бегло, что один из журналистов отметил, что Ларкин ни разу не заикнулся, и спросил, использовал ли он сообщество поддержки заикающихся «в качестве хитрости, которая помогла в карьере».

Второй альбом Скэтмена Джона, Everybody Jam!, вышел в 1996 году. Альбом приобрел феноменальную популярность в Японии. Он стал таким популярным, что в японских магазинах стали продаваться игрушки, похожие на него, Джон появился на телефонных картах и банках кока-колы. Японская версия альбома включала в себя 5 бонус-треков, в том числе «Su Su Su Super Kirei» и «Pripri Scat», которые были заказаны японскими компаниями для рекламы косметики и пудингов соответственно. Торговая марка Ultraman воспользовалась популярностью Скэтмена, в результате вышел сингл «Scatultraman», на обложке которого был изображен Ультраман, держащий в руке шляпу с усами Скэтмена.
Песня Scatman была самой популярной песней во всем мире на тот момент.