Ο Κόνερι γεννήθηκε στο Φάουντενμπριτζ (Fountainbridge) στο Εδιμβούργο. Είναι γιος της Euphemia "Effie" McBain (πατρ. McLean), καθαρίστριας, και του Τζόζεφ Κόνερι, εργάτη σε εργοστάσιο και οδηγού φορτηγού. Ο πατέρας του ήταν Καθολικός με ιρλανδο-σκωτική καταγωγή, ενώ η μητέρα του ήταν Σκωτσέζα Προτεστάντισσα. Ο ίδιος υποστηρίζει ότι τον αποκαλούσαν Σον, το μεσαίο του όνομα, πολύ πριν γίνει ηθοποιός.

Το πρώτο του επάγγελμα ήταν γαλατάς στο Εδιμβούργο. Ακολούθως κατατάχθηκε στο Βασιλικό Ναυτικό, αλλά απολύθηκε λόγω προβλημάτων υγείας και επέστρεψε στην παλιά του δουλειά κάνοντας διάφορες εργασίες όπως οδηγός λεωφορείου, εργάτης, μοντέλο για το κολλέγιο Καλών Τεχνών του Εδιμβούργου στιλβωτής φερέτρων και μπόντι μπίλντερ.

Τζέιμς Μποντ (1962–1967, 1971, 1983)

Η εντυπωσιακή άνοδος του Κόνερι έγινε με τον ρόλο του μυστικού πράκτορα Τζέιμς Μποντ. Συνολικά πήρε μέρος σε επτά ταινίες Μποντ. Οι έξι ήταν παραγωγής της EON και μία ήταν ανεπίσημη αναπαραγωγή του Thunderball από την Warner Bros  Οι ταινίες αυτές είναι:

• Τζέιμς Μποντ, πράκτωρ 007, εναντίον Δόκτορος Νο (Dr No., 1962)
• Τζέιμς Μποντ, πράκτωρ 007: Από τη Ρωσία με αγάπη (From Russia with love, 1963)
• Τζέιμς Μποντ, Πράκτωρ 007 εναντίον Χρυσοδάκτυλου (Goldfinger, 1964)
• Επιχείρηση Κεραυνός (Thunderball, 1965)
• Ζεις μονάχα δυο φορές (You only live twice, 1967)
• Τα Διαμάντια είναι παντοτινά (Diamonds are forever, 1971)
• Ποτέ μην ξαναπείς ποτέ (Never say never again, 1983) (ανεπίσημη)

Ο εντυπωσιακός αλλά και αεικίνητος, «αεράτος», ηθοποιός πρωτοανακαλύφθηκε από τους Χάρι Σάλτζμαν και Άλμπερτ Μπρόκολι, μετά την άρνηση άλλων υποψήφιων ηθοποιών για το ρόλο του Μποντ, μεταξύ των οποίων ο Ντέιβιντ Νίβεν (ο οποίος αργότερα έπαιξε τον Μποντ στην παρωδία του 1967 Casino Royale), ο Κάρι Γκραντ και ο Τζέιμς Μέισον. Ο χαμηλός προϋπολογισμός ανάγκασε τους παραγωγούς να προσλάβουν έναν άγνωστο ηθοποιό.