冷战初期，美国海军主要的对地、对海打击任务由航空母舰战斗群担任，主要打击方式为投掷铁炸弹，美国海军在1960年代追随苏联的脚步开始发展反舰导弹。在1965年，美国海军航空系统司令部（NAVAIR）启动一项空射战术反舰导弹的研究案，主要目的是攻击当时配备SS-N-3反舰导弹的苏联潜艇；由于SS-N-3导弹只能在水上发射，因此美国海军计划趁其在水面上进行发射作业时，抢先发射导弹将之击沉；由于这种攻击型态类似捕鲸船以鱼叉攻击浮在水上的鲸鱼，因此计划代号就称为鱼叉（Harpoon）。在当时，“鱼叉”的射程要求是25海里（40km）。

同样在1965年，麦克唐纳·道格拉斯公司（McDonnel Douglas）也自费进行一项长程反舰导弹研究：在这项研发之中，麦道考虑了涡扇发动机与涡喷发动机两种选择，麦道认为涡扇发动机比较省油，但是涡轮喷射发动机成本更低，并且能在相同体积下提供更高推力。因此，麦道选择使用涡轮喷射发动机作为这种反舰导弹的动力，而涡扇发动机则比较适合体积更大、射程更远的战略型巡航导弹。尔后，受到1967年六日战争中，以色列驱逐舰爱拉特号(INS Eilat)遭到埃及导弹快艇以俄制SS-N-2反舰导弹击沉的刺激，美国海军才开始重视反舰导弹的发展 。于是，美国海军立刻拿出手头上现有的鱼叉导弹研究案，将目标改成攻击水面船舰，主要需求是能携带250磅（113.4kg）的战斗部飞行40海里（74km）以上，而且能兼容于现有的舰载导弹发射器的发射架与弹舱。由于射程需求大增，因此必须将最初鱼叉计划的火箭发动机改成吸气式涡轮发动机。

依照前述调整，美国海军在1968年展开鱼叉反舰导弹的初步研究。同时，美国海军武器系统司令部（NAVORD）也提议，发展一种以现有机体改装而来的过渡型导弹，填补鱼叉导弹开发完成前的空档。在1968年11月，NAVORD选定以美国海军现有、由莱恩（Ryan）公司开发的火蜂（Firebee）靶机改装为反舰导弹。其实，莱恩公司先前已经曾向美国海军提出一种名为火花（Fireflash）的火蜂靶机反舰版本。在1971年4月，反舰版火蜂展开舰载测试，并在同年9月完成全系统的打靶试射；不过美国海军还是放弃这个构想，全力发展鱼叉反舰导弹。

在1970年11月， 美国国防系统获得评审委员会（DSARC）批准海军发展鱼叉导弹，当时总共有舰射型（RGM-84A）与空射型（AGM-84A）两种，弹体结构与系统都相同，主要差别在于舰射型采用折叠弹翼以容纳于发射管，并在弹尾增加一截固态助推来让导弹升空并达到启动涡轮的速度。在1971年1月 ，美国海军针对鱼叉导弹展开招标（当时有5家厂商参与）；其中，麦道由于以经自行进行数年的涡轮喷射反舰导弹研究，自然比其他竞争者更具优势。在1971年6月 ，美国海军果然选定麦道为弹体主承包商，随即进入工程发展（EMD）阶段。

整个工作分为设计、研发和使用测试三个阶段，总共制造了102枚原型弹，其中32枚用于设计阶段，40枚用于研发阶段，30枚用于使用测试；这102枚之中，80枚拥有导引及控制系统，而之中10枚则配备战斗部。在1972年，鱼叉导弹的发动机承包商也尘埃落定，由Teledyne公司击败盖瑞特（Garrett）成为鱼叉导弹的涡轮喷射发动机承包商，发动机型号为J-402。在70年代初期，西方情报单位确认苏联海军已经部署第一种能从水下发射的P-70反舰导弹（北约代号SS-N-7 Starbright），并搭配查理级巡航导弹核潜艇，因此美国海军也决定跟进发展类似系统，在1972年1月将潜射鱼叉导弹（编号UGM-84A）纳入需求，此种版本系以一种“胶囊（encapsulated）”外罩将鱼叉导弹密封，由鱼雷发射器射出后浮出水面，里面的导弹才进行点火发射。此后，麦道又自行加入岸基发射版本，使鱼叉反舰导弹成为西方第一种兼具空射、舰射、潜射与岸射四种版本的反舰导弹系统。

鱼叉导弹在1972年7月展开地面测试，1972年12月至1977年3月进行了飞行与实战测试，总共发射了40枚 。最早的基本型鱼叉导弹可携带500磅（227kg）战斗部飞行60海里（111km）。在1972年10月20日，一架美国P-3C巡逻舰成功以空射鱼叉导弹（编号AGM-84）击中靶舰，成为鱼叉导弹首次成功的实弹试射 。在1974年6月，DSARC批准生产150枚预量产型鱼叉导弹用来作战测评之用。鱼叉导弹从1975年7月开始量产，研发工作于同年12月全部完成，并在1977年7月进入美国海军服役。第一批舰射型鱼叉导弹（编号RGM-84A）在1978年6月运交美国海军 ，首批空射型的AGM-84则在1979年服役，而首批UGM-84A潜射型鱼叉导弹则于1981年起服役。到了1979年后期，第1000枚舰射型鱼叉导弹已经交付美国海军。美国向台湾交付了空射型、舰载型、潜射型鱼叉反舰导弹。鱼叉导弹不仅供美国海军使用，还大量供给盟国使用，现有将近30个国家使用，总数约6000枚，是西方世界最普遍的反舰导弹。

鱼叉导弹的导引方式、尺寸重量的等级与同时期名满天下的法制飞鱼反舰导弹(Exocet MM-38~40)类似，但是采用涡轮发动机推进使得射程较后者大幅增加(飞鱼导弹使用固态火箭作为动力)。鱼叉导弹的弹体拥有两组十字形翼面，位于弹体中部是四片大面积梯型翼，弹尾则设有四面较小的全动式控制面，两组弹翼前后完全平行，而且均为折叠式，折叠幅度为弹翼的一半；此外，舰射、潜射型的火箭助推器上也有一组十字形稳定翼。为了减轻重量，除了战斗部、加力器采用钢质结构外，鱼叉导弹其余的外壳、翼面都采用铝合金制造，整枚导弹由前而后依序为导引段、战斗部、推进段与尾舱。

鱼叉导弹弹体长3.84m，含加力器则为4.6M，直径34.3CM，翼展91.4CM。导引段位于导弹前部，主要组件包括弹鼻天线罩、德州仪器公司（TI）的PR-53/DSQ-28主动雷达制导寻标器、导弹导引单元（Missile Guidance Unit，MGU）、汉纬的AN/APN-194单脉冲雷达高度计及其发射天线。PR-53/DSQ-28采用J波段频率，拥有捷变技术，全面采用故态电子元件固态，机械扫瞄式的圆型低旁波瓣阵列天线的旋转范围为正负各45度角，能在各种天候下搜索远方的海上小型目标，并具备优秀的电子反对抗能力。

鱼叉导弹发动机段占据弹体后段，主要部件包括铝制的半埋固定式发动机进气道（进气流量4.35kg/s）、一具德利台开发的CAE J-402-CA-400型单轴涡轮喷射发动机以及燃料箱，此外还有1个发射电缆插孔以及2个位于燃料箱前端的2个银锌电池；而弹体靠近尾翼以及连接发射架的后弹耳处还刻意加强了结构。舰射及潜射型鱼叉的弹尾拥有一具固体火箭加力器，长度0.74m，重137kg，装有66kg的高能推进剂，推力为6732dN，作用时间约2.5~3秒，能在发射后2.9秒内让导弹获得10G的加速度，飞行速度达到0.75马赫，当导弹爬升至340m的高度时便自动脱离，由涡轮发动机接手工作。

J402-CA-400单轴涡轮喷气发动机长度0.748m，重45.36kg，采用环形燃烧室，压缩机为轴流和离心组合式，转子转速为41200r/min，压缩比5.81，耗油率34mg/Ns，持续推力294dN，在海平面高度上从起动到最大推力的额定时间约7s，持续作用时间为15分钟，工作寿命约1小时，能提供弹体0.85至0.9马赫的巡航速度。燃料箱长度为1.22m，可储存45.4kg的燃油。发动机工作时，燃油先透过负载弹性波纹管加压，接着进入燃烧室，混合加压空气然后点火燃烧。发动机的点火装置采用固体推进剂起动器以及含镁量为62%的烟火剂，由电发火星塞引爆起动，在低温、低空速时亦能正常起动，在测试中于高温(71℃)、低温(-54℃)环境都能顺利启动。位于尾舱的尾翼采用电力伺服驱动，每个翼面的舵机由连续运转马达、传动机构、摩擦圆盘离合器及制动器组成，偏转角度为正负各30度。

弹上还装有飞行姿态控制系统和飞行高度测量系统，前者由利尔·西格勒公司的三轴捷联式惯性姿态参考仪（Attitute Regerence Assembly，ARA）、国际商业仪器公司的4PISP-OA数位计算机以及供电单元（又称数位计算机/供电器，Digital Computer/Power Supply，DC/PS）/自动驾驶仪构成一个单一总成，重量仅11kg，耗电功率为100W。4PISP-OA拥有7680个16位元二进制编码指令唯独存储器和512个word的随机存取存储器，ARA则拥有3个速率陀螺，负责向自动驾驶仪提供导弹在三个轴向的角速度，进而求得相对应的控制信号传给尾翼控制系统。至于飞行高度测量系统则以AN/APN-194单脉冲主动式雷达高度计为主，用于维持低空巡航的飞行高度，其窄波主动雷达发射天线位于导弹战斗部外壳处下方。

鱼叉导弹系统的射控端为AN/SWG-1(V)鱼叉导弹舰用射控组（Harpoon Shipboard Command and Luanch Control Set，美军称之为Sickles，简称为CLS），此系统设有一个战术数据库，在接战时能依据不同战场情况，自动从战术数据库中筛选适当战术来输入导弹。在导弹发射前，舰上的AN/SWG-1射控系统会先将导弹的DC/PS完成初始化，输入相关战术资料；导弹发射后，DC/PS会接收来自于ARA的加速资料，以及雷达高度计传来的高度，控制弹翼将导弹保持在预先输入的飞行模式中；当雷达寻标器开启并锁定目标后，DC/PS便根据雷达获得的目标位置加以攻击。

鱼叉导弹通常采用距离/方位（Range and Bearing Luanch，RBL）接战模式，此时舰上射控雷达已经获得目标方位与距离信息并输入导弹的DC/PS内，再由载台与目标距离选择适当的寻标器扫瞄模式。在中途航行阶段，导弹依照惯性导航 系统产生的指令作为控制依据，当导弹接近目标时，才开启主动雷达寻标器来确实锁定目标，如此的好处是避免过早开启雷达使让敌方电子支援装置有所警觉。鱼叉导弹的初期弹道高度为700至800公尺，进入终端弹道时，才将飞行高度降至海平面数米，以躲避敌方雷达，此时并打开主动雷达搜寻目标。依据扫瞄范围 ，鱼叉导弹的雷达寻标器有大、中、小三种视窗模式择一使用；使用范围越小的视窗模式，就需要更精确的惯性导航资料，而受敌方电子对抗的机会也越小 。

发射器方面，舰射型鱼叉导弹最常使用的是圆桶状发射器，每组发射器以双联装或四联装的面貌出现。这种发射器有两种型号：一般的MK-141以及适合小型舰艇的轻量化MK-140。MK-141的发射管壁比MK-140厚，并具有防震功能。除了专属的MK-140/141发射器外，鱼叉导弹还能装填于几种美国海军制式发射器内，如单臂的MK-13、双臂的MK-26以及平常用于装填ASROC反潜火箭的MK-112八联装发射器。MK-112的左、右两侧各两个发射箱能选择装填鱼叉导弹，因此每具MK-16最多能有四枚鱼叉导弹在发射器内备便。

相较于法国早期飞鱼（MM-38）、意大利早期型奥图玛（Otomat）以及瑞典早期型RBS-15等反舰导弹，雷达寻标器搜索范围较窄，大约只有偏离轴心的正负5到10度以内，因此发射前船舰需要转向，将发射器对准目标大致方位，否则导弹开启雷达寻标器之后将难以锁定目标；所以这些反舰导弹发射器多半需尽量朝向前方，使船舰以舰首接敌（最快速度接近敌方，并将暴露的雷达截面积减至最小）时，不需要大幅转向就能尽快发射导弹，但对于安装位置的要求较高。鱼叉反舰导弹一开始就拥有大角度的寻标器，即便发射时导弹与目标之间的夹角较大，雷达寻标器还是能捕获目标并控制导弹转向，所以MK-141发射器对于射界的要求低，不必占用舰上射界最好的前、后位置（这些位置通常需留给舰炮与防空导弹），通常以横向安装于舰体中部上层结构之间，最大幅度地节省甲板空间。