Sylvester Stallone a étudié l'art dramatique à Miami. De retour à New York, il apparaît dans plusieurs pièces off-Broadway. Ses premiers pas au cinéma sont des rôles très mineurs. À titre d'exemple, il tourne aussi un film érotique, l'Étalon italien. Il fait également quelques apparitions dans des séries télévisées comme Kojak.
C'est pendant ces années que Stallone écrit le scénario de Rocky, l'histoire d'un boxeur amateur minable qui se voit offrir la chance de sa vie le jour où le champion du monde de boxe lui propose de l'affronter sur le ring. Conscient que le rôle de Rocky Balboa, à l'image du combat contre Apollo Creed pour son personnage, peut faire basculer sa vie, Stallone refuse de vendre son script s'il n'obtient pas la garantie de jouer le rôle titre. Dans un premier temps, le rôle fut proposé à James Caan, Robert Redford, Burt Reynolds ou Ryan O'Neal. Le peu d'expérience de l'acteur décourage plus d'un producteur.
C'est finalement en 1976 qu'il obtient gain de cause et que sort Rocky réalisé par John G. Avildsen. À l'image de son personnage, Stallone se retrouve propulsé sur le devant de la scène, le film connaissant un succès inespéré et décrochant dix nominations aux Oscars. En définitive, le film remporte 3 Oscars, dont le plus important, celui du meilleur film de l'année. Stallone retrouvera le personnage de Rocky à 6 reprises, en 1979, 1982, 1985, 1990 et 2006. Stallone a écrit tous les scénarios de la saga et a réalisé Rocky II, III, IV et VI. La série des Rocky présente un parallèle troublant entre la carrière de l'acteur et du boxeur qui s'embourgeoisent tous deux au fil des ans.
En 1982, Stallone interprète dans Rambo l'autre rôle qui marquera sa carrière : celui d'un vétéran du Viêt Nam sans domicile fixe qui est pris en grippe par un shérif de province qui ne veut pas voir dans « sa » ville le symbole d'une Amérique qui a perdu. Stallone reprendra le rôle de John Rambo à deux reprises (1985 et 1988). Rambo 4 est actuellement en projet pour une sortie en 2008. Rambo est vraiment le rôle qui le consacre superstar mondiale du cinéma : son personnage de vétéran guerrier devient une icône et suscite une véritable "Rambomania", à tel point que son look est adopté par des terroristes et des guerilleros un peu partout dans le monde. Le personnage, et surtout ses exploits, sont habilement exploités par le gouvernement Reagan, alors que la guerre froide connaît ses derniers soubresauts. C'est pour cela que Rambo, et par la même occasion Stallone, deviennent en quelque sorte l'image de l'Amérique fière et nationaliste des eighties et provoquent de nombreuses réactions de rejet ou de moquerie, très vives en France avec les Guignols de l'Info, où la marionnette de Stallone représente l'Amérique, et chez les Nuls.
Les rôles de Rocky et Rambo ont tellement marqué les esprits et sa carrière que les autres films de Stallone dans les années 1980 n'ont pas vraiment marché, même s'il s'est essayé à plusieurs genres : le film historique et sportif avec À nous la victoire (1981) et Le Bras de fer (1987), la comédie musicale avec Rhinestone (1984), la comédie policière avec Tango et Cash (1989) ou bien encore le film carcéral avec Haute sécurité (1989) sans oublier le film d'action policière avec Cobra (1986).
Dans les années 1990, Stallone laisse derrière lui les personnages de Rocky et de Rambo. Il tourne plusieurs films d'action dont Cliffhanger, traque au sommet, Demolition Man, Judge Dredd, Assassins et Daylight. À ce jour, son dernier grand rôle a été celui que lui a offert James Mangold en 1997 dans Copland. Il y incarne un shérif faible et bedonnant d'une petite ville de policiers tenue par la mafia. Il prend 20 kilos pour ce rôle et étonne pas mal d'observateurs.
Après Copland, Stallone traverse de nouveau une période peu fructueuse: il enchaîne les échecs commerciaux avec des films comme Driven (2001) sur la course automobile,Get Carter (2001),D-Tox (2002),Avenging Angelo et Les maîtres du jeu (2004). Beaucoup le considèrent alors comme fini et définitivement classé acteur "has been". Pourtant, après de longues années passées à convaincre des producteurs, Sly revient sur le devant de la scène avec un sixième volet de la saga Rocky. Rocky Balboa, délibérément axé sur la nostalgie et sur un retour aux sources du premier épisode, lui permet de renouer avec le succès critique et les premières places du box-office. De nouveaux projets se profilent ainsi à l'horizon, comme un quatrième et ultime volet de son autre saga culte, Rambo et la réalisation d'un vieux rêve, une biographie filmée de son écrivain fétiche, Edgar Allan Poe.
À noter que Sylvester Stallone est aussi réalisateur : il a réalisé les volets II, III, IV et VI de la saga Rocky ainsi que la Taverne de l'enfer (1978) et Staying Alive (1983) avec John Travolta, la suite de la Fièvre du samedi soir.
En 2004, il présente sur NBC une émission de télé-réalité The Contender dans laquelle on voit le quotidien de boxeurs qui se battent pour devenir le meilleur d'entre eux. En France, l'émission fut diffusée par Canal+.