Programming heuristic algorithms

 Around the year 1990 the understanding of heuristic algorithms was poor. The problems are visible even in the definition what a heuristic is about. Normal algorithms are step by step instructions formulated in source code, e.g. bubble sort or a path planning algorithms. In contrast, a heuristic algorithm is based on domain specific knowledge, but it remains unclear how this knowledge is encoded in software.

It makes sense to assume, that a heuristic algorithm isn't a technology but only a wish for such a technology. Its more a question for future mopre efficient algorithms not invented yet. Nevertheless there are some attempts available to describe the situation in detail. One famous example is a cost function. Cost functions are used to encode the knowledge of experts into a simple mathematical equation. For example the distance there is a distance in a maze to the goal, or there is a cost function available for colliding with an obstacle. The idea behind a cost function is to encode a high level descripotion "Move to the goal, avoid the obstacles" into a mathematical model which can be translated into actions.

If cost functions are an entry level heuristic algorithms, there is another more advanced strategy available which are text based robot control. The idea is, to provide domain knowledge on the fly, during the runtime of the program. The human operator speaks to the robot e.g. he gives the current subgoal, and this information is converted into a mathematical equation. In contrast to the previously mentioned static cost function, a text based teleoperation is harder to implement but provides higher flexibility.

Let us analyze the workflow in detail. The human operator provides the next subgoal in natural language, this information is translated into a cost function by a parser, and the cost function is used to plan the trajectory of the robot. Even if the pipeline sounds a bit complicated it can be realized in software. The bottleneck is how to translate natural language instructions into a mathematical equation.

The similarity between cost function and text based control is, that the domain specific knowledge isn't available in the robot itself, but its provided from the environment. This redfines the robot's role from a former autonomous robot into an interactive device. The principle is similar to bottom up robotics formulated by Rodney brooks in the late 1980s. In contrast to Brooks subsumption architecture, the robot is more dependent from the environment. Instead of using a frontsensor to avoid an obstacle, the robot gets textual input from a human operator, so its entirely remote controlled.

The emergence of AI from 1990 to 2010

The starting point of the history lesson in technology is the year 1990 which was the end point of the 4th computer generation. Around the year 1990 most modern computing technology like 32bit CPU, the C++ programming language and Internet protocols like TCP/IP were invented. Also videocompression and many video games were available.

Artificial Intelligence and robotics belongs to the 5th computer generation which has emerged after the year 1990. The starting point are heuristics algorithms. In contrast to a normal algorithm which can be search in a sorted database, a heuristic algorithms is using external knowledge to fasten up the performance. Entry level heuristics algorithms are based on an evaluation function. The most famous one is A*. In contrast to a simple traversal of the state space, A* is using ja distance function to follow only nodes in the graph which are near to the goal. This allows to search much faster.

Modern AI technology including robotics is build up on heuristic algorithms. Its not possible to solve AI somehow else because problems like motion planning and grasp planning are so complex, that always sort sort of heuristics is needed to fasten up the processing speed. The only debate is about which sort of heuristics fits well to a certain problem.

Early and easy to explain heuristic algorithm are based on the previously mentioned evaluation function which can be used to implement path planning algorithm and chess playing computer programs. In computer chess, the evaluation function determines a score for the current board, this score is used to prioritize the search in the state space. Such an algorithm can be executed on normal desktop computers which were available in the 1990s like a 286'er PC. An evaulation function alone can't solve more complex robot problems. The problem is that for high level tasks like "grasping an object" the evaluation function is unknown. These obstacles has prevented, that robotics was available in the 1990s so there was a longer process needed to heuristic algorithms.

A promising approach developed during the 2000s in parallel to the Deep learning boom was called feature engineering. Feature engineering tries to create evaluation functions for any domain. The question is which statistical variables are important for a domain. For exampole a robot hand might have a touch sensor, while a car might have the features speed and direction. The principle of features allows to create more advanced evaluation function which can solve lots of robot problems.

A third and most advanced tool to create modern heuristic algorithms is natural language. Instead of treating robot control problems as purely mathematical subjects in a multidimensional numerical space, the idea is to communicate with a robot over a language interface similare to a text based adventure game. The ability to introduce grounded language into existing heuristi algorithm porovides a powerful framework to create advanced robot systems since  the year 2010.

Zweiter Besuch im Computer reset store, Dallas

 1. Ankunft und Entdeckung

Die Morgensonne brannte bereits unbarmherzig auf den Asphalt, als Mark und Steve ihren altersschwachen Ford auf den staubigen Parkplatz des Computer Reset Store in Dallas lenkten. Die Freunde, beide Mitte vierzig und leidenschaftliche Technik-Nostalgiker, hatten von diesem Laden gehört - einem wahren Mekka für Liebhaber alter Computer.

"Sieh dir das an!", rief Mark begeistert und deutete auf das verwitterte Schild über dem Eingang. "Wie eine Zeitkapsel!"

Steve nickte grinsend. "Lass uns hoffen, dass drinnen noch mehr Schätze auf uns warten."

Mit klopfenden Herzen betraten sie den Laden. Der Geruch von altem Plastik und Elektronik schlug ihnen entgegen, vermischt mit einer Prise Staub und Vergangenheit. Schon im Eingangsbereich türmten sich Kartons mit ausrangierten Tastaturen und Monitoren.

"Wow", hauchte Steve ehrfürchtig. "Das ist ja der Wahnsinn!"

Sie drangen tiefer in den Laden vor, vorbei an endlosen Regalen voller Hardware. Hier ein Stack originalverpackter 5,25-Zoll-Disketten, dort eine Kiste randvoll mit alten Prozessoren. Mark blieb wie angewurzelt vor einem Regal stehen.

"Steve! Sieh dir das an!" Er hielt triumphierend eine Packung in die Höhe. "Eine original versiegelte Kopie von Lotus 1-2-3! Mein Vater hat damals damit gearbeitet."

Steve pfiff anerkennend durch die Zähne. "Unglaublich. Und da drüben - ist das etwa ein Xerox Alto?"

Die beiden Freunde verloren jegliches Zeitgefühl, während sie durch die Gänge streiften. Jede Ecke barg neue Überraschungen. Ein kompletter Apple Lisa Computer, noch in der Originalverpackung. Ein ganzes Regal voller Commodore 64 Zubehör. Sogar einige seltene NeXT Cubes entdeckten sie.

"Ich fühle mich wie in einer Zeitmaschine", murmelte Mark, während er ehrfürchtig über das Gehäuse eines IBM PC/XT strich. "All diese Geräte... sie haben die Welt verändert."

Steve nickte nachdenklich. "Ja, und jetzt stehen sie hier, vergessen und verstaubt. Es ist fast ein bisschen traurig."

Sie erreichten einen Bereich, der offenbar der Software gewidmet war. Regale über Regale mit Softwareschachteln aus den 80ern und 90ern. WordPerfect, dBase, Norton Utilities - Namen, die sie in ihre Jugend zurückversetzten.

"Erinnerst du dich noch, wie wir nächtelang Civilization gespielt haben?", fragte Mark lachend und hielt eine vergilbte Spielepackung hoch.

Steve grinste. "Wie könnte ich das vergessen? Meine Eltern dachten schon, ich wäre computerabhängig."

Plötzlich stutzte Mark. "Ist dir aufgefallen, dass niemand sonst hier ist? Kein Personal, keine anderen Kunden..."

Steve runzelte die Stirn. "Stimmt. Und sieh mal - einige Regale sind schon leer geräumt."

Ein ungutes Gefühl beschlich die beiden Freunde. Irgendetwas stimmte hier nicht. Sie beschlossen, weiter in den hinteren Teil des Ladens vorzudringen, um nach Antworten zu suchen.

Wenig ahnten sie, dass sie dort auf eine Szene stoßen würden, die ihre Begeisterung in blankes Entsetzen verwandeln sollte.


2. Konfrontation mit der Liquidation

Als Mark und Steve tiefer in die staubigen Gänge des Computer Reset Store vordrangen, vernahmen sie plötzlich ein ohrenbetäubendes Kreischen. Alarmiert eilten sie dem Geräusch nach und gelangten in einen großen Hinterhof. Dort bot sich ihnen ein Bild des Grauens: Ein gigantischer industrieller Schredder thronte wie ein Moloch über einem Berg alter Computer.

Fassungslos beobachteten die beiden Männer, wie Arbeiter einen Commodore 64 nach dem anderen in den gierigen Schlund der Maschine warfen. Das Knirschen von zerberstendem Plastik und zersplitternden Leiterplatten ließ Mark erschaudern. "Das können die doch nicht machen!", rief er entsetzt.

Steve, sonst eher der Besonnene von beiden, stürmte auf den nächstbesten Arbeiter zu. "Halt! Stoppen Sie sofort!", brüllte er gegen den Lärm an. Der Arbeiter zuckte nur gleichgültig mit den Schultern und deutete auf einen Mann in Anzug, der abseits stand und das Geschehen überwachte.

Entschlossen marschierten Mark und Steve auf den Anzugträger zu. "Sir, Sie müssen das stoppen!", forderte Mark eindringlich. "Diese Computer sind Kulturgut! Man kann sie doch nicht einfach zerstören!"

Der Mann, der sich als Mr. Johnson vorstellte, seufzte genervt. "Meine Herren, ich verstehe Ihre Aufregung. Aber wir führen hier lediglich einen Auftrag aus. Der Laden wird geschlossen, alles muss raus."

"Aber warum vernichten?", hakte Steve nach. "Es gibt doch sicher Sammler oder Museen, die Interesse hätten!"

Johnson schüttelte den Kopf. "Zu aufwendig. Die Lagerkosten fressen uns auf. Außerdem - wer will schon diesen alten Krempel?"

Mark ballte die Fäuste. "Viele Leute! Diese Geräte sind Teil unserer Geschichte! Sie haben die digitale Revolution eingeläutet!"

"Tut mir leid, meine Entscheidung steht fest", erwiderte Johnson kühl.

Die nächsten Stunden vergingen wie in Trance. Hilflos mussten Mark und Steve mit ansehen, wie ein Stück Computergeschichte nach dem anderen in den Shredder wanderte. Apple II, Atari ST, Amiga 500 - nichts wurde verschont.

Sie versuchten, wenigstens einige Geräte zu retten, boten sogar an, sie abzukaufen. Doch Johnson blieb hart. "Alles oder nichts", war seine Devise.

Als die Sonne unterging, war der Hof leer gefegt. Wo einst Tausende Computer gestanden hatten, türmte sich nun ein Berg aus Schrott. Mark und Steve standen wie betäubt da, unfähig zu begreifen, was gerade geschehen war.

"All diese Erinnerungen... einfach weg", murmelte Steve.

Mark nickte stumm. Dann ballte er entschlossen die Faust. "Das darf nie wieder passieren. Wir müssen etwas unternehmen!"

Erschöpft, aber mit neuem Feuer im Herzen, verließen die beiden Freunde den Ort der Zerstörung. Sie wussten nicht, wie - aber sie würden einen Weg finden, um die verbliebenen Schätze der Computergeschichte für die Nachwelt zu bewahren.

A short introduction into the End of moores law

 

Before its possible to explain why the law is dead, let us give a short overview what the original idea was. Until the year 2010, the moores law was an unwritten rule, how much faster a new CPU is. The observation of Gordon Moore (the founder of Intel) was that the transistor count doubles every 18 months which is equal to an exponential growth. If the CPU has twice as much transistor it delivers also twice as much performance.

To verify if this law is valid, we need to determine the Compound Annual Growth Rate value for the Gflops of newly produced CPU over multiple years. Or in more simpler terms, an Excel sheet is created with different processors over the years which are compared to each other. To simplify the task, i've selected the Thinkpad laptop, because precise information about the CPU in this hardware is available which allows to create a precise table.

A CAGR value of 0.59 means, that a new generation of a laptop delivers 59% improvement in performance than the laptop one year ago, which is equal to the moores law ratio (doubling performance every 18 months). According to the figure, until the year 2010 a CAGR value of 0.4 upto 0.6 was available which is close to the moores law. Unfurtunately, the performance improvement has reduced after 2010 drastically to around 0.20.

The possible explanation is, that its much harder to increase the speed anymore, if the level is higher. Improving a 1 gflops CPU by 50% is much easier, than improving a 100 gflop CPU by 50%. This dilemma is called the “End of moores law”.

A realistic growth rate estimation for future Thinkpads and other Laptop models is a CAGR of 0.15 which is equal to 15% speed improvement every year. It will take 5 years, until the performance of a CPU is twice as fast which is much longer than the assumption of 18 months formulated by Moore.

year	Thinkpad	CPU	Gflops	CAGR 5y
2000	T21	Intel M Pentium III Copermine 800 Mhz*	0.4
2001	T23	Intel Pentium III-M Tualatin 1.13 Ghz*	0.6
2002	T30	Intel Pentium IV-M 2 Ghz*	1.5
2003	T41	Intel Pentium M Banias 1.6 Ghz*	2.5
2004	T42	Intel Pentium M Dothan 1.8 Ghz*	3.0
2005	T43	Intel Pentium M750*	3.5	0.54
2006	T60	Intel core 2 duo T5500*	8.0	0.68
2007	T61	Intel core 2 duo T7300*	11.0	0.49
2008	T61 same	Intel core 2 duo T7300*	11.0	0.34
2009	T400	Intel core 2 duo P8600*	19.2	0.45
2010	T410	Intel i7-620M	21.3	0.44
2011	T420	Intel i7-2640M	44.8	0.41
2012	T430	Intel i7-3520M	46.4	0.33
2013	T440	Intel i7-4600U	67.2	0.44
2014	T440 same	Intel i7-4600U	67.2	0.28
2015	T450	Intel i7-5600U	83.2	0.31
2016	T460	Intel i7-6600U	83.2	0.13
2017	T470	Intel i7-7600U	89.6	0.14
2018	T480	Intel i7-8650U	121.6	0.13
2019	T490	Intel i7-8565U	115.2	0.07
2020	T14 Gen1	Intel Core i7-10610U	115.2	0.07
2021	T14 Gen2	Intel i7-1185G7	192.0	0.16
2022	T14 Gen3	Intel i7-1255U	272.0	0.17
2023	T14 Gen4	Intel i7-1365U	288.0	0.20
2024	T14 Gen5	Intel Core Ultra 7 155U*	307.2	0.22
total				0.32

* gflops is an estimation
sources:
thinkwiki.de
thinkwiki.org
wikipedia.org
intel.com Intel APP metrics for Intel Microprocessors
notebookcheck.net

Besuch im Computer reset store Dallas

 1. Die Entdeckung

Sarah starrte ungläubig auf den Bildschirm ihres Smartphones. Ein alter Forumsbeitrag hatte sie auf die Spur des Computer Reset Stores in Dallas gebracht - ein wahres Eldorado für Technik-Nostalgiker und Sammler. Als leidenschaftliche Retrocomputing-Enthusiastin konnte sie ihr Glück kaum fassen. Der Laden, ein ehemaliger Gebrauchthandel für Computer, sollte eine unglaubliche Sammlung von Hardware, Software und Büchern aus den 1980er und 1990er Jahren beherbergen.

Ohne zu zögern, buchte Sarah einen Flug nach Dallas. Während der Reise malte sie sich aus, was sie dort alles finden könnte. Alte Apple-Computer? Vergessene DOS-Programme? Vielleicht sogar einen funktionsfähigen Commodore 64?

Als sie endlich vor dem unscheinbaren Gebäude in einem Industriegebiet am Stadtrand von Dallas stand, klopfte ihr Herz vor Aufregung. Die verblichene Aufschrift "Computer Reset" über dem Eingang versprach ein Abenteuer in die Vergangenheit der Computertechnologie.

Mit zitternden Händen öffnete Sarah die schwere Metalltür. Der Geruch von altem Plastik, Staub und leicht oxidiertem Metall schlug ihr entgegen. Als sich ihre Augen an das schummrige Licht gewöhnten, stockte ihr der Atem. Vor ihr erstreckte sich ein riesiges, 18.000 Quadratfuß großes Lagerhaus, vollgestopft bis unter die Decke mit Computerteilen, Peripheriegeräten und Kartons.

Ungläubig wanderte ihr Blick über endlose Regalreihen. Hier stapelten sich Mainframe-Komponenten neben ausrangierten Röhrenmonitoren. Dort türmten sich Kisten mit Disketten und CD-ROMs. In einer Ecke entdeckte sie sogar noch original verpackte Kopien von Windows 95 und OS/2 Warp.

Die schiere Menge an Technik aus vergangenen Jahrzehnten war überwältigend. Sarah fühlte sich, als wäre sie in einer Zeitmaschine gelandet. Jedes Regal, jeder Karton versprach neue Entdeckungen. Sie sah alte IBM-Tastaturen, Apple II-Gehäuse, sogar einige Atari-Konsolen.

Besonders faszinierend fand sie die Bücherabteilung. Hier reihten sich vergilbte Handbücher zu längst vergessenen Betriebssystemen an dicke Wälzer über Programmiersprachen, die kaum noch jemand beherrschte. Sarah zog vorsichtig ein Exemplar von "Inside Macintosh" heraus und blätterte ehrfürchtig durch die Seiten.

Während sie tiefer in den Laden vordrang, wurde ihr klar, dass sie hier nicht nur alte Technik, sondern ein Stück Computergeschichte vor sich hatte. Jedes Gerät, jedes Buch erzählte von einer Zeit, als Computer noch neu und aufregend waren, als jede technische Innovation die Welt zu verändern schien.

Sarah wusste, dass sie Tage, wenn nicht Wochen bräuchte, um alles zu erkunden. Aber sie hatte Zeit. Mit einem Lächeln auf den Lippen machte sie sich daran, systematisch die Regale zu durchforsten. Wer weiß, welche Schätze hier noch auf ihre Entdeckung warteten?

Mit jedem Schritt durch die staubigen Gänge wuchs ihre Begeisterung. Der Computer Reset Store war mehr als nur ein Laden - er war ein Museum, ein Archiv und ein Spielplatz für Technikbegeisterte zugleich. Sarah war fest entschlossen, jeden Winkel zu erkunden und vielleicht das eine oder andere Stück Computergeschichte zu retten.

2. Die Schatzsuche

Mit wachsender Begeisterung begann Sarah ihre systematische Erkundung des Computer Reset Stores. Sie beschloss, methodisch vorzugehen und sich Bereich für Bereich vorzuarbeiten, um kein Highlight zu verpassen.

Zuerst wandte sie sich dem Hauptteileraum zu. Hier lagerten Tausende von Komponenten: Motherboards aus verschiedenen Epochen der PC-Geschichte, Grafikkarten von längst vergessenen Herstellern und Prozessoren, die einst das Herz leistungsfähiger Workstations waren. Sarah staunte über die Vielfalt und den guten Erhaltungszustand vieler Teile.

Besonders faszinierte sie ein Regal voller alter Soundkarten. Sie erkannte eine AdLib, die erste Soundkarte, die Musiksynthese in PCs brachte, und daneben mehrere Modelle der legendären Sound Blaster-Serie. Vorsichtig nahm sie eine Sound Blaster 16 in die Hand und erinnerte sich an die Stunden, die sie als Kind damit verbracht hatte, Spiele zum Laufen zu bringen.

Im nächsten Bereich fand Sarah sich inmitten von Softwareboxen wieder. Riesige Kartons mit Betriebssystemen wie OS/2 und NeXTSTEP standen neben schlanken Jewel Cases mit Spieleklassikern. Sie entdeckte sogar noch original versiegelte Kopien von Programmen wie WordPerfect und Lotus 1-2-3 – Namen, die heute kaum noch jemand kennt.

Während sie die Gänge entlang schlenderte, fiel ihr Blick auf einen speziellen Laptop-Bereich. Hier reihten sich Geräte verschiedenster Marken und Epochen aneinander: klobige Toshiba-Modelle aus den frühen 90ern, schlanke Sony VAIOs und robuste Dell Latitudes.

Plötzlich blieb Sarah wie angewurzelt stehen. Vor ihr lagen zwei schwarze ThinkPads, deren charakteristische rote TrackPoints wie kleine Leuchttürme aus dem Chaos hervorstachen. Mit zitternden Händen hob sie die Geräte an. Es waren ein 760XD und ein 600E – wahre Legenden aus den späten 90er Jahren.

Vorsichtig klappte sie die Displays auf und drückte die Einschaltknöpfe. Zu ihrer Überraschung erwachten beide Laptops mit dem unverkennbaren IBM-Startton zum Leben. Sarah konnte ihr Glück kaum fassen. Diese Schätze würde sie auf jeden Fall mitnehmen.

Ermutigt durch diesen Fund, setzte Sarah ihre Erkundung fort. Sie entdeckte einen Bereich mit alten Handheld-Computern und PDAs. Zwischen Palm Pilots und Newton MessagePads fand sie sogar einen gut erhaltenen Psion Series 5 – ein Gerät, von dem sie immer geträumt, aber nie besessen hatte.

In einer verstaubten Ecke stieß Sarah auf mehrere Kisten voller alter Computer-Zeitschriften. Sie zog eine Ausgabe der "BYTE" von 1985 heraus und blätterte ehrfürchtig durch die vergilbten Seiten. Die Anzeigen für längst vergessene Hardware und die Artikel über damals revolutionäre Technologien versetzten sie in eine andere Zeit.

Als sie weiter in die Tiefen des Ladens vordrang, entdeckte Sarah immer neue Schätze: einen original verpackten Amiga 500, mehrere Apple II-Modelle und sogar einen seltenen NeXT Cube. Jedes dieser Geräte erzählte eine Geschichte von Innovation, Konkurrenz und technologischem Fortschritt.

Die Stunden vergingen wie im Flug, während Sarah von Entdeckung zu Entdeckung eilte. Sie wusste, dass sie nur einen Bruchteil des Angebots gesehen hatte, aber die beiden ThinkPads in ihren Händen erinnerten sie daran, dass sie bereits echte Schätze gefunden hatte.

Mit einem Gefühl der Zufriedenheit, aber auch der Wehmut – denn sie wusste, dass sie unmöglich alles mitnehmen konnte – machte sich Sarah auf den Weg zur Kasse. Ihr Besuch im Computer Reset Store war mehr als nur eine Einkaufstour gewesen. Es war eine Reise durch die Geschichte des Personal Computings, eine Begegnung mit vergessenen Technologien und eine Erinnerung an die rasante Entwicklung der digitalen Welt.

A closer look into the end of moores law

 In addition to the previous post, I've improved the table with the gflops performance of Lenovo Thinkpad models from the past. The moving average over an increase for 5 years was determined which shows that the processing speed is growing with 15% anually. This is much lower than the expected Moores law which assumes, that the performance is growing by 59% anually.

The slow growth of 15% is different from the much higher improvement during the 1980s and 1990s which was working with the expected 59% annual increase in processing speed. It seems that some sort of plateau was reached after the year 2010. From this year, the processing speed measured in gflops stays constant on a high level. Its unlikely, that the former Moores law with its exponential improvements will come back in the near future.

 

 

Moores law is dead, example for Lenovo Thinkpad

 Since some years, there are rumors available that the Moores law isn't visible anymore. Sometimes it was argued, that the improvement rate in chip performance has slowed down. To investigate the situation with valid numbers lets us take a deeper look into the performance of different Thinkpad models. The main reason why this computer was selected is because its manufactored under the same name over many years which makes it easy to campare the performance.

The table shows different 14 Inch Thinkpad models from 2011 until 2024, including a common Intel i7 cpu from this year together with the proposed Gflops performance. its visible that the speed has improved, a thinkpad from 2023 is 6 times faster, than the counterpart from the year 2011. But, the improvement per year, is smaller than the expected improvement:

In reality, the gflops has improved by 19% each year, while the moores law expects an improvement of 59% for each year. What we see in the reality is no longer an exponential curve, but a slow increase over a longer horizon. It doesn't take 18 months until the performance has doubled but in reality it takes 7 years.

Artificial intelligence from 1990 to 2020

 Until the year 1990 it was unclear how to realize AI and robotics, but 30 years later in 2020 AI was available. The period in between should be described because its equal to the existence vs. the absence of artificial intelligence.

The most advanced technology until 1990 was the classical computer workstation including its connection to the internet. The typical workstation was equipped with graphics cards, sound cards, moderate amount of RAM and a hard drive. From a software side a unix compatible operating system including multitasking GUI environment was a typical application.  Such a unix workstation wasn't able to control robots and it wasn't equipped with AI, but it was an ordinary example of well engineered computer technology.

AI in the year 1990 was only available in movies and in science fiction books which are describing intelligent robots who are doing useful tasks, like driving cars, walking on two legs and do complex assembly tasks. In the reality these tasks wasn't out of reach for the engineers. Even most advanced books and papers written at Universities in 1990 doesn't contain algorithms, nor ideas how to realize robots in reality.

The single cause why engineers until 1990 have struggled with AI is because of missing problem definition. It was unclear what AI is about from a mathematical standpoint. Without such a definition it wasn't able to program it. A user oriented definition like "A robot has to walk on two legs" isn't enough to create a mathematical equation or to program an algorithm. Programming even very simple robots resulted every time into failed projects. That means simple wheeled robots in 1990 were not able to find the exit in a simple maze.

From 1990 until 2020 lots of effort was put into the AI and robotics issue. The most promising direction was to create a precise  problem space first and with this problem space, different algorithms can be combined. There are two major approaches available:

1. Create a physical problem space, e.g. invent a robot competition like Micromouse and Robocup
2. Create a dataset problem space, e.g. a dataset with motion capture recordings, or a dataset with OCR problems

After a problem space was created for example a micromouse maze, its possible to benchmark a certain robot and a certain algorithm how well it performs in the puzzle. For example, a certain robot will need 30 seconds until it found the exist. Or a neural network will recognize in a ocr dataset 50% of the pictures correctly.

During the period 1990-2020 endless amount of datasets and robotics competitions were introduced, described and compared to each other in the academic literature. Especially the second attempt "create a dataset problem space" has become an important enebling technology in AI, because it allows to discuss AI from a mathematical standpoint. Instead of asking what is AI from a philosophical standpoint, the new question was, if a certain dataset makes sense, or what the score for a certain neural network is on a dataset. These hard scientific questions can be adressed with existing tools like back propagation algorithms, statistics and diagrams. A well defined problem space realized as a machine learning dataset was the major steps from former alchemy driven AI philosophy towards a scientific defined AI.

In the published literature from 1990 until 2020 it can be shown, that over the years more advanced datasets were created which were solved with more advanced neural network algorithms. Early datasets in the 1990 were short tables which were described only in the appendix of a paper, while in later years, the entire paper described the dataset in detail because it was the main subject.

Modern AI published after the year 2020 is mostly the result of improved problem formulation. After this date, endless amount of physical problem descriptions plus thousands of datasets with additional problem descriptions are available. These datasets are very realistic, they have to do with real challenges like grasping objects, biped walking, path planning in a maze and even natural language understanding. So we conclude, that the search for Artificial intelligence is equal to the search for a problem formulation. Only if a problem was formulated in a mathematical format, a computer can be used to solve it.