Arp wurde am 16. September in Straßburg geboren. 1900 schrieb er sich an der Kunstgewerbeschule in Straßburg ein; l904 reiste er das erste Mal nach Paris. Im selben Jahr begann er ein Studium an der Weimarer Kunstakademie. 1907 vermittelte Henry van de Velde dem jungen Künstler eine Ausstellungsmöglichkeit bei Bernheim-Jeune in Paris neben Matisse, Signac und Van Dongen. 1908 nahm Arp ein Studium an der Academie Julian in Paris auf, das ihn jedoch nicht befriedigte. 1912 arbeitete er am Almanach "Der Blaue Reiter" mit und nahm an der Ausstellung "Der Moderne Bund" in Zürich teil. 1913 hielt sich Arp bei Herwarth Walden in Berlin auf und übernahm für kurze Zeit die Leitung der Sturm-Galerie, an deren Ausstellung "Erster Deutscher Herbstsalon" er sich beteiligte. 1914 begegnete er Max Ernst.

Kurz vor Ausbruch des Ersten Weltkrieges reiste Arp mit einem der letzten Züge nach Paris. 1915 wurde er aus Frankreich ausgewiesen und floh in die Schweiz. In Zürich lernte er Sophie Taeuber kennen (Heirat 1922). 1916 Mitbegründer das Cabaret Voltaire in Zürich, die "Wiege" der Schweizer Dada-Bewegung, der u. a. auch Hugo Ball und Tristan Tzara angehörten. 1917 entstanden die ersten abstrakten Holzreliefs. Die Bekanntschaft mit Francis Picabia 1918 führte zur Kontaktaufnahme der Schweizer mit dem internationalen Dada. Nach dem Krieg unternahm Arp zahlreiche Reisen und pflegte Bekanntschaft mit Kurt Schwitters, El Lissitzky, Raoul Hausmann, Hannah Höch u.a. 1920 wurde die Ausstellung Dada-Vorfrühling in Köln polizeilich geschlossen; im selben Jahr kehrte Arp nach Paris zurück, nahm aktiv an der dortigen Dada-Bewegung teil; 1925 Teilnahme an der ersten Ausstellung der Surrealisten, mit denen Arp in den kommenden Jahren zusammenarbeitete und wiederholt ausstellte. 1930: erste Rundplastiken. Flucht vor den deutschen Truppen aus Paris, zuerst aufs Land, dann in die Schweiz, zu Max Bill. 1943 starb Sophie Taeuber-Arp in Zürich. Nach dem Kriegsende kehrte Arp nach Paris zurück. In den vierziger und fünfziger Jahren unternahm er mehrere Reisen in die USA, wo er mehrmals ausstellte. 1959 zweite Heirat mit Marguerite Hagenbach. Am 7. Juni 1966 starb Hans Arp in Basel.