Народилася 22 листопада 1984 року в Мангеттені, Нью-Йорк, у дансько-єврейській родині. Її батько, Карстен Олаф Йоганссон, був архітектором із Копенгагена, Данія, пізніше емігрував у США. Її дід по батьківській лінії, Ейнер Йоганссон, був істориком мистецтва, сценаристом і кінорежисером, чий рідний батько був шведом. Її мати Мелані Слоун, продюсерка з району Бронкс, Нью-Йорк. Вона походила з єврейської родини ашкеназі, яка втекла з Польщі та Російської імперії, і спочатку мала прізвище Шламберг, тому Йоганссон ідентифікує себе як єврейка. Батьки акторки познайомилися в Данії, де тимчасово мешкала її мати. Скарлетт має брата-близнюка Гантера, старшу сестру Ванессу (також акторка), а також зведених брата Адріана та сестру Крістіан від іншого шлюбу батька.
Йоганссон має подвійне громадянство США та Данії. У 2017 році в епізоді програми PBS Finding Your Roots вона дізналася, що брат її прадіда по материнській лінії та його родина загинули під час Голокосту у Варшавському гетто.
Йоганссон відвідувала PS 41, початкову школу в Грінвіч-Віллідж, Мангеттен. Її батьки розлучилися, коли їй було 13. Вона була особливо близька зі своєю бабусею по материнській лінії, Дороті Слоун, бухгалтеркою та шкільною вчителькою; вони часто проводили час разом, і Йоганссон вважала Дороті своєю найкращою подругою.
Зацікавившись виконавською кар’єрою з раннього дитинства, Йоганссон часто влаштовувала пісні та танці для своєї родини. У 7 років вона була спустошена, коли агент з талантів підписав договір замість неї з її братом, але пізніше вирішила все одно стати акторкою. У дитинстві вона займалася акторською майстерністю, дивлячись у дзеркало, поки не змушувала себе плакати, наслідуючи Джуді Гарленд у фільмі «Зустрічай мене в Сент-Луїсі». Особливо любила музичний театр і джаз, брала уроки чечітки. Йоганссон каже, що батьки підтримували її вибір професії. Своє дитинство вона описала як звичайне.
Вступила до Театрального інституту Лі Страсберга і почала прослуховуватися для реклами, але незабаром втратила інтерес: «Я не хотіла рекламувати Wonder Bread». Переключила увагу на кіно та театр, вперше з'явившись на сцені в небродвейській виставі «Софістика» з Ітаном Гоуком, в якій мала два рядки. Приблизно в цей час вона почала навчатися в Професійній дитячій школі, приватному навчальному закладі для акторів-початківців на Мангеттені.