Народилася 30 березня 1888 року в місті Істад, Швеція, у робітничій сім'ї. Після закінчення школи працювала продавцем на заході Швеції. У 1905 році вона іммігрувала до США, де спочатку працювала нянею. Незабаром вона зробила успішну кар'єру в модельному бізнесі, завдяки чому в 1911 році потрапила в кіно. У наступні роки щорічно виходило десяток фільмів на рік за участю Нільссон. На студії «Kalem», де вона виконала більшість своїх ролей, актриса була зіркою номер один поряд з Еліс Джойс. У 1920-х роках Нільссон успішно співпрацювала з «Paramount Pictures», де і досягла найвищого успіху. У 1923 році вона зіграла Шеррі Мелоут в екранізації твору Рекса Бича «Негідники», після чого цю роль в ремейка виконали Бетті Компсон (1930), Марлен Дітріх (1942) і Енн Бакстер (1955).
З приходом ери звукового кіно кар'єра Анни Нільссон різко пішла на спад, але в подальшому вона продовжувала грати дрібні ролі до середини 1950-х років. У 1950 році вона з'явилася у фільмі «Бульвар Сансет», де зіграла саму себе на вечорі «воскових фігур» в будинку Норми Десмонд.
Анна Нільссон померла від серцевої недостатності в лютому 1974 року в невеликому містечку Хамлет в Каліфорнії. За свій внесок в кіно актриса удостоєна зірки на Голлівудській алеї слави.