{"_id": {"$oid": "69d4eb12b877594bc5718c92"}, "test_id": "T0675", "benchmark": "medieval_manuscripts", "date": "2026-03-16", "tags": {"document-type": ["manuscript"], "writing": ["handwritten"], "century": [15], "language": ["de"], "layout": ["prose"], "task": ["transcription"]}, "contributors": ["ina_serif", "maximilian_hindermann"], "hidden": false, "config": {"provider": "genai", "model": "gemini-3.1-flash-lite-preview", "dataclass": "Document", "temperature": 0.0, "role_description": "You are a historian with expertise in medieval manuscripts and paleography", "prompt_file": "prompt.txt", "legacy_test": false}, "prompt": "IDENTITY and PURPOSE:\n\nYou are presented with an image from a 15th century medieval manuscript written in Basel in late medieval German. Your task is to extract the text from the manuscript in the specified JSON format. You must extract all text exactly as it appears in the manuscript, maintaining historical spellings, punctuation, and formatting. Do not resolve abbreviations.\n\nThe manuscript may contain:\n1. A main text body (often in one column as continuous text)\n2. A folio number (if present)\n3. Additional notes or text written in the margins (labeled as addition1, addition2, etc.)\n\nYou must:\n- Identify and transcribe the main text\n- Extract the folio number if visible (use empty string \"\" if not visible)\n- Identify and transcribe any marginal additions separately\n- Preserve line breaks with \\n\n- Maintain all historical spellings and abbreviations exactly as written. If a letter is superscribed, normalize it by writing the superscribed letter after the main letter, e.g. \"u with superscribed o\" is spelled as \"uo\". If special characters are used for abbreviations, do not resolve them, but try to transcribe the special character according to the Medieval Unicode Font Initiative. \ua75b for \"er\" and \ua770 for \"us\" or \"em\" might be the most common special characters.\n- Do not modernize or correct the text\n- Do not use OCR or attempt to interpret unclear text - transcribe what you can see\n- If a field has no content, use an empty string \"\" (not null)\n\nTake a deep breath and think step by step about the layout of the page. First identify the folio number, then the main text area, then any marginal additions. Return only a JSON file with no additional commentary.\n\nEXAMPLE OUTPUT:\n\n{\n  \"folios\": [\n    {\n      \"folio\": \"15\",\n      \"text\": \"In disem jare kam der kunig\\n mit grossem here in daz lant\\n vnd belagerte die stat Basel\\n do wertend sich die burger\\n mit grosser kraft vnd tugent\\n vnd triben den kunig dannen\\n mit schanden vnd verlust\",\n      \"addition1\": \"Anno domini 1444\",\n      \"addition2\": \"\",\n      \"addition3\": \"\"\n    }\n  ]\n}\n", "results": {"text": "{\"folios\":[{\"folio\":\"\",\"text\":\"vn dem erzbischoff do selbs\\n vn zongt man vns dz heilig\\n in dem thurm do selbs ist\\n sant stephans houpt der do de\\n bexiij hunger emer wz ist sit\\n barbara eins kunigs do zipern\\n tochter houpt ist sant blasius\\n vn sant andres emer ist\\n vnd sant stephans emer ist von\\n zwen zehen die do sant hippol\\n geschlage wurdent ist\\n off mentag vor sant johans\\n tag ze dungestey f\u00fcrch wir\\n laudia von f\u00fcrend an d\\n mitwoch f\u00fcr die pfort ze zi\\n do kam zu der battela\\n fast do wappnete sich die\\n geflut all gemeinlich vnd\\n komend all bilgerin hie\",\"addition1\":\"vn zongt man\\nvns ach ze pa\\ndie ein von\\nrot daran\\nwir in f\u00fcrst mien\\nenteil blangt\\nnoch ent von\\ntriebt die bil\\ngrin vnd hall\\nund gang zu\\nware vn sit\\nmd vns diepeck\\nvonze des anker\\nny fenst twing\\nund ist die rat\\ngegen de spital\\nny dem deme\\nBarf\u00fcsse kloster\",\"addition2\":\"\",\"addition3\":\"\"}]}", "model": "gemini-3.1-flash-lite-preview", "provider": "genai", "finish_reason": "STOP", "usage": {"input_tokens": 1594, "output_tokens": 341, "total_tokens": 1935, "input_cost_usd": 0.0003985, "output_cost_usd": 0.0005115, "estimated_cost_usd": 0.00091}, "duration": 9.240050315856934, "timestamp": "2026-03-16T19:09:27.550040", "parsed": {"folios": [{"folio": "", "text": "vn dem erzbischoff do selbs\n vn zongt man vns dz heilig\n in dem thurm do selbs ist\n sant stephans houpt der do de\n bexiij hunger emer wz ist sit\n barbara eins kunigs do zipern\n tochter houpt ist sant blasius\n vn sant andres emer ist\n vnd sant stephans emer ist von\n zwen zehen die do sant hippol\n geschlage wurdent ist\n off mentag vor sant johans\n tag ze dungestey f\u00fcrch wir\n laudia von f\u00fcrend an d\n mitwoch f\u00fcr die pfort ze zi\n do kam zu der battela\n fast do wappnete sich die\n geflut all gemeinlich vnd\n komend all bilgerin hie", "addition1": "vn zongt man\nvns ach ze pa\ndie ein von\nrot daran\nwir in f\u00fcrst mien\nenteil blangt\nnoch ent von\ntriebt die bil\ngrin vnd hall\nund gang zu\nware vn sit\nmd vns diepeck\nvonze des anker\nny fenst twing\nund ist die rat\ngegen de spital\nny dem deme\nBarf\u00fcsse kloster", "addition2": "", "addition3": ""}]}, "conversation_id": "1846925b-12ac-4797-b61d-0572cb2efc9e", "score": {"fuzzy": 0.754, "cer": 0.322}, "raw_response": "{\"sdk_http_response\":{\"headers\":{\"content-type\":\"application/json; charset=UTF-8\",\"vary\":\"Origin, X-Origin, Referer\",\"content-encoding\":\"gzip\",\"date\":\"Mon, 16 Mar 2026 18:09:34 GMT\",\"server\":\"scaffolding on HTTPServer2\",\"x-xss-protection\":\"0\",\"x-frame-options\":\"SAMEORIGIN\",\"x-content-type-options\":\"nosniff\",\"server-timing\":\"gfet4t7; dur=8955\",\"alt-svc\":\"h3=\\\":443\\\"; ma=2592000,h3-29=\\\":443\\\"; ma=2592000\",\"transfer-encoding\":\"chunked\"},\"body\":null},\"candidates\":[{\"content\":{\"parts\":[{\"media_resolution\":null,\"code_execution_result\":null,\"executable_code\":null,\"file_data\":null,\"function_call\":null,\"function_response\":null,\"inline_data\":null,\"text\":\"{\\n  \\\"folios\\\": [\\n    {\\n      \\\"folio\\\": \\\"\\\",\\n      \\\"text\\\": \\\"vn dem erzbischoff do selbs\\\\n vn zongt man vns dz heilig\\\\n in dem thurm do selbs ist\\\\n sant stephans houpt der do de\\\\n bexiij hunger emer wz ist sit\\\\n barbara eins kunigs do zipern\\\\n tochter houpt ist sant blasius\\\\n vn sant andres emer ist\\\\n vnd sant stephans emer ist von\\\\n zwen zehen die do sant hippol\\\\n geschlage wurdent ist\\\\n off mentag vor sant johans\\\\n tag ze dungestey f\u00fcrch wir\\\\n laudia von f\u00fcrend an d\\\\n mitwoch f\u00fcr die pfort ze zi\\\\n do kam zu der battela\\\\n fast do wappnete sich die\\\\n geflut all gemeinlich vnd\\\\n komend all bilgerin hie\\\",\\n      \\\"addition1\\\": \\\"vn zongt man\\\\nvns ach ze pa\\\\ndie ein von\\\\nrot daran\\\\nwir in f\u00fcrst mien\\\\nenteil blangt\\\\nnoch ent von\\\\ntriebt die bil\\\\ngrin vnd hall\\\\nund gang zu\\\\nware vn sit\\\\nmd vns diepeck\\\\nvonze des anker\\\\nny fenst twing\\\\nund ist die rat\\\\ngegen de spital\\\\nny dem deme\\\\nBarf\u00fcsse kloster\\\",\\n      \\\"addition2\\\": \\\"\\\",\\n      \\\"addition3\\\": \\\"\\\"\\n    }\\n  ]\\n}\",\"thought\":null,\"thought_signature\":\"EjQKMgG-Pvb7jKbKWU8apuF6g0lVuxVQigMwK983vSDn1kZxNSOcmy2qdYKJe1NfTLsTBum5\",\"video_metadata\":null}],\"role\":\"model\"},\"citation_metadata\":null,\"finish_message\":null,\"token_count\":null,\"finish_reason\":\"STOP\",\"avg_logprobs\":null,\"grounding_metadata\":null,\"index\":0,\"logprobs_result\":null,\"safety_ratings\":null,\"url_context_metadata\":null}],\"create_time\":null,\"model_version\":\"gemini-3.1-flash-lite-preview\",\"prompt_feedback\":null,\"response_id\":\"Xke4aeCEFuG7vdIP1eqw-Aw\",\"usage_metadata\":{\"cache_tokens_details\":null,\"cached_content_token_count\":null,\"candidates_token_count\":341,\"candidates_tokens_details\":null,\"prompt_token_count\":1594,\"prompt_tokens_details\":[{\"modality\":\"IMAGE\",\"token_count\":1080},{\"modality\":\"TEXT\",\"token_count\":514}],\"thoughts_token_count\":null,\"tool_use_prompt_token_count\":null,\"tool_use_prompt_tokens_details\":null,\"total_token_count\":1935,\"traffic_type\":null},\"automatic_function_calling_history\":[],\"parsed\":{\"folios\":[{\"folio\":\"\",\"text\":\"vn dem erzbischoff do selbs\\n vn zongt man vns dz heilig\\n in dem thurm do selbs ist\\n sant stephans houpt der do de\\n bexiij hunger emer wz ist sit\\n barbara eins kunigs do zipern\\n tochter houpt ist sant blasius\\n vn sant andres emer ist\\n vnd sant stephans emer ist von\\n zwen zehen die do sant hippol\\n geschlage wurdent ist\\n off mentag vor sant johans\\n tag ze dungestey f\u00fcrch wir\\n laudia von f\u00fcrend an d\\n mitwoch f\u00fcr die pfort ze zi\\n do kam zu der battela\\n fast do wappnete sich die\\n geflut all gemeinlich vnd\\n komend all bilgerin hie\",\"addition1\":\"vn zongt man\\nvns ach ze pa\\ndie ein von\\nrot daran\\nwir in f\u00fcrst mien\\nenteil blangt\\nnoch ent von\\ntriebt die bil\\ngrin vnd hall\\nund gang zu\\nware vn sit\\nmd vns diepeck\\nvonze des anker\\nny fenst twing\\nund ist die rat\\ngegen de spital\\nny dem deme\\nBarf\u00fcsse kloster\",\"addition2\":\"\",\"addition3\":\"\"}]}}"}, "scoring": {"fuzzy": 0.783, "cer": 0.221, "cost_summary": {"total_input_tokens": 19128, "total_output_tokens": 2721, "total_tokens": 21849, "input_cost_usd": 0.004782, "output_cost_usd": 0.004081499999999999, "total_cost_usd": 0.008863499999999998}}, "normalized_score": 77.9}