Відлік музичної кар'єри Нельсона починається з 1956 року. На перших порах його власні записи відкидалися босами звукозаписних компаній через немодного, занадто «сирого» звучання. У цих умовах Нельсон віддавав свої нові пісні іншим виконавцям. Це він написав чи не найпопулярнішу кантрі-баладу в історії «Crazy» Петсі Клайн, і «Night Life» Рея Прайса, яку називають найбільш часто переспівуваною кантрі-мелодією в історії жанру.
Просуванню власної кар'єри Нельсона заважали пристрасть до алкоголю, куріння марихуани і те, що в громадських місцях він часто носив неліцензовану зброю. Втомившись від проблем із законом, він у 1965 ріку переселився в техаський Остін, який був у ті часи відомий своєю вільною вдачею. Тут його музика набула нестандартне звучання, ввібравши впливу рок-н-рола, західного свінгу, джазу й фолк-року. Сам співак захопився ранковим моціоном і став вести здоровий спосіб життя.
На початку 1970-х Нельсон і Вейлон Дженнінгс відростили бороди лопатою і наділи терті джинси, тим самим оголосивши війну босам кантрі-індустрії, в якій тоді панували лощені естрадні виконавці у піджаках бездоганного крою. У ході так званого «outlaw movement» вони відстоювали повернення музики кантрі до своїх ковбойським витоків, намагалися повернути жанру втрачену енергетику. Одним з основних віх цього напряму був альбом Нельсона «Red Headed Stranger» (1975, «Рудоволосий Незнайомець»). Найуспішнішими за всю його кар'єру стали вийшли в цей період сингл и «Blue Eyes Crying in the Rain» (1975) і «On the Road Again» (1980).
У 1980-і роках Нельсон почав багато зніматися в кіно. У музичному відношенні для нього настала пора дуетів. Характерний приклад — пісня «To All the Girls I've Loved Before», записана разом з Хуліо Іглесіасом. Разом зі старим товаришем Дженнінгсом, Крісом Крістоферсоном і Джонні Кешем він створив успішну супергрупу «The Highwaymen». До того часу виконавець отримав досить широке визнання за межами кантрі-індустрії. У 1982 році йому була присуджена премія «Греммі» в найпрестижнішій номінації «Запис року» (за нову інтерпретацію класичної пісні «Always on My Mind»).
У 1990 році Нельсону довелося позмагатися у суді з податковою службою, яка звинуватила його в систематичному ухиленні від сплати податків. Оскільки недоїмки перевищили 16 мільйонів доларів, значна частина майна співака пішла з молотка. Для погашення заборгованості він навіть записав особливий подвійний альбом. Після закінчення судової епопеї Нельсон випустив в 1993 році альбом дуетів із зірками інших жанрів, серед яких опинилися Боб Ділан, Пол Саймон і Шинейд О'Коннор.
У другій половині 1990-х популярність Нельсона (як і інших виконавців старої школи) стрімко знижувалася. Не сприяла покращенню його іміджу і активна боротьба старого співака за легалізацію марихуани (в одному з ток-шоу він з гордістю оголосив, що курив «травку» на даху Білого дому під час прийому, влаштованого там президентом Джиммі Картером). Намагаючись привернути увагу молодого покоління слухачів кантрі, Нельсон записав альбом з яскраво вираженими вкрапленнями реггі. У 2006 році він вперше за багато років повернувся на вершину кантрі-чартів, а за рік до цього випустив синглом скандальну пісню «Cowboys Are Frequently Secretly Fond of Each Other» (буквально: «Ковбої часто таємно закохані один в одного»).
