17世纪初的一天，荷兰小镇的一家眼镜店的主人利伯希（Hans Lippershey），为检查磨制出来的透镜质量，把一块凸透镜和一块凹镜排成一条线，通过透镜看过去，发现远处的教堂塔尖好象变大拉近了，于是在无意中发现了望远镜的秘密。1608年他为自引己制作的望远镜申请专利，并遵从当局的要求，造了一个双筒望远镜。

1609年意大利佛罗伦萨人伽利略·伽利雷发明了40倍双镜望远镜，这是第一部投入科学应用的实用望远镜。

与此同时，德国的天文学家开普勒也开始研究望远镜，他在《屈光学》里提出了另一种天文望远镜，这种望远镜由两个凸透镜组成，与伽利略的望远镜不同，比伽利略望远镜视野宽阔。但开普勒没有制造他所介绍的望远镜。

沙伊纳于1613年─1617年间首次制作出了这种望远镜，他还遵照开普勒的建议制造了有第三个凸透镜的望远镜，把二个凸透镜做的望远镜的倒像变成了正像。沙伊纳做了8台望远镜，一台一台地观察太阳，无论哪一台都能看到相同形状的太阳黑子。因此，他打消了不少人认为黑子可能是透镜上的尘埃引起的错觉，证明了黑子确实是观察到的真实存在。在观察太阳时沙伊纳装上特殊遮光玻璃，伽利略则没有加此保护装置，结果伤了眼睛，最后几乎失明。

荷兰的惠更斯为了减少折射望远镜的色差在1665年做了一台筒长近6米的望远镜，来探查土星的光环，后来又做了一台将近41米长的望远镜。

使用透镜作物镜的望远镜称为折射望远镜，即使加长镜筒，精密加工透镜，也不能消除色象差，牛顿曾认为折射望远镜的色差是不可救药的，后来证明是过分悲观的。1668年他发明了反射式望远镜，解决了色差的问题。第一台反射式望远镜非常小，望远镜内的反射镜口径只有2.5厘米，但是已经能清楚地看到木星的卫星、金星的盈亏等。1672年牛顿做了一台更大的反射望远镜，送给了英国皇家学会，至今还保存在皇家学会的图书馆里。

1733年英国人哈尔制成第一台消色差折射望远镜。1758年伦敦的宝兰德也制成同样的望远镜，他采用了折射率不同的玻璃分别制造凸透镜和凹透镜，把各自形成的有色边缘相互抵消。但是要制造很大透镜不容易，目前世界上最大的一台折射式望远镜直径为102厘米，安装在雅弟斯天文台。

1793年英国赫瑟尔（William Herschel），制做了反射式望远镜，反射镜直径为130厘米，用铜锡合金制成，重达1吨。1845年英国的帕森（William Parsons）制造的反射望远镜，反射镜直径为1.82米。

1917年，胡克望远镜（Hooker Telescope）在美国加利福尼亚的威尔逊山天文台建成。它的主反射镜口径为100英寸。正是使用这座望远镜，哈勃（Edwin Hubble）发现了宇宙正在膨胀的惊人事实。1930年，德国人施密特（BernhardSchmidt）将折射望远镜和反射望远镜的优点（折射望远镜像差小但有色差而且尺寸越大越昂贵，反射望远镜没有色差、造价低廉且反射镜可以造得很大，但存在像差）结合起来，制成了第一台折反射望远镜。 　　

战后，反射式望远镜在天文观测中发展很快，1950年在帕洛玛山上安装了一台直径5.08米的海尔（Hale）反射式望远镜。1969年在前苏联高加索北部的帕斯土霍夫山上安装了直径6米的反射镜。1990年，NASA将哈勃太空望远镜送入轨道，然而，由于镜面故障，直到1993年宇航员完成太空修复并更换了透镜后，哈勃望远镜才开始全面发挥作用。由于可以不受地球大气的干扰，哈勃望远镜的图像清晰度是地球上同类望远镜拍下图像的10倍。1993年，美国在夏威夷莫纳克亚山上建成了口径10米的“凯克望远镜”，其镜面由36块1.8米的反射镜拼合而成。2001设在智利的欧洲南方天文台研制完成了“超大望远镜”(VLT)，它由4架口径8米的望远镜组成，其聚光能力与一架16米的反射望远镜相当。现在，一批正在筹建中的望远镜又开始对莫纳克亚山上的白色巨人兄弟发起了冲击。这些新的竞争参与者包括30米口径的“加利福尼亚极大望远镜”（California ExtremelyLarge Telescope，简称CELT），20米口径的大麦哲伦望远镜（Giant Magellan Telescope，简称GMT）和100米口径的绝大望远镜（Overwhelming Large Telescope，简称OWL）。它们的倡议者指出，这些新的望远镜不仅可以提供像质远胜于哈勃望远镜照片的太空图片，而且能收集到更多的光，对100亿年前星系形成时初态恒星和宇宙气体的情况有更多的了解，并看清楚遥远恒星周围的行星。